كندا تحذر من استخدام الذكاء الاصطناعى فى القرصنة والمعلومات الخاطئة

قال رئيس المركز الكندي للأمن السيبراني ، سامي خوري ، إنه يمكن استخدام الذكاء الاصطناعي لإنشاء برامج ضارة وصياغة رسائل بريد إلكتروني احتيالية مقنعة ونشر معلومات مضللة عبر الإنترنت ، وفقًا لموقع TOI الهندي.

كيف يسيء مجرمو الإنترنت استخدام الذكاء الاصطناعي

وفي إشارة إلى أن الوكالة قد رأت استخدام الذكاء الاصطناعي “في رسائل البريد الإلكتروني المخادعة ، أو تأطير رسائل البريد الإلكتروني بطريقة أكثر تركيزًا ، في كود خبيث (و) في معلومات مضللة ومعلومات مضللة” ، لم يقدم خوري أي تفاصيل أو أدلة حول كيفية إساءة استخدام مجرمي الإنترنت للذكاء الاصطناعي. ومع ذلك ، فإن هذا التأكيد يثير القلق من أن مجرمي الإنترنت قد بدأوا بالفعل في استخدام هذه التكنولوجيا الناشئة.

وأشار خوري إلى أن استخدام الذكاء الاصطناعي في صياغة الشفرات الخبيثة لا يزال في مهده. “لا يزال هناك طريق لنقطعه لأن الأمر يتطلب الكثير لكتابة استغلال جيد ،” يهتم خوري بالسرعة التي تتطور بها نماذج الذكاء الاصطناعي. بهذه السرعة ، كما يشير ، سيكون من الصعب مراقبة الإمكانات الخبيثة لهذه النماذج قبل إصدارها للمستخدمين العاديين.

يحرس الأمن السيبراني من مخاطر الذكاء الاصطناعي

نشرت هيئات مراقبة الأمن السيبراني من عدة دول تقارير تحذر من مخاطر الذكاء الاصطناعي ، وحذر مسؤولو الإنترنت على وجه التحديد من نماذج اللغة الكبيرة (LLMs). تتخلص برامج معالجة اللغة المتقدمة بسرعة هذه من كميات هائلة من النصوص لتوليد حوار شبيه بالبشر ، ووثائق ، والمزيد.

في مارس ، نشر اليوروبول تقريرًا عن احتمال إساءة استخدام تطبيق ChatGPT الخاص بـ OpenAI من قبل مجرمي الإنترنت ، وقالت منظمة الشرطة الأوروبية إن نموذج الذكاء الاصطناعي التوليدي هذا جعل من الممكن “انتحال شخصية منظمة أو فرد بطريقة واقعية للغاية حتى مع وجود فهم أساسي فقط للغة الإنجليزية”.

بعد ذلك ، قام المركز الي للأمن السيبراني في المملكة المتحدة بتحديث منشور مدونة يسلط الضوء على أن المجرمين “قد يستخدمون LLMs للمساعدة في الهجمات الإلكترونية التي تتجاوز قدراتهم الحالية.”

أثار باحثو الأمن السيبراني أيضًا العديد من حالات الاستخدام الضار المحتملة. أبلغ بعض الباحثين أيضًا عن رؤية محتوى يشتبه في أنه تم إنشاؤه بواسطة الذكاء الاصطناعي. في الأسبوع الماضي ، اكتشف متسلل سابق LLM تم تدريبه على مواد ضارة ، وتمكن أيضًا من استخدام هذا النموذج لصياغة بريد لخداع المستخدمين لإجراء تحويل نقدي.

جاء LLM برسالة بريد إلكتروني من ثلاث فقرات تطلب من هدفها المساعدة في فاتورة عاجلة. قالت LLM: “أتفهم أن هذا قد يكون إشعارًا قصيرًا ، لكن هذه الدفعة مهمة جدًا ويجب أن تتم خلال الـ 24 ساعة القادمة”.