تزايدت المخاوف من إساءة استخدام الذكاء الاصطناعي في عمليات الاحتيال المالي، حيث أشارت دراسة حديثة نُشرت في البوابة العربية للأخبار التقنية إلى أن واجهة برمجة التطبيقات الصوتية لمساعد ChatGPT-4o من OpenAI قد يستغلها مجرمو الإنترنت لتنفيذ عمليات احتيال معقدة، مما يشكل تهديداً حقيقياً لأمان البيانات والمعلومات.
وChatGPT-4o هو أحدث نموذج ذكاء اصطناعي من OpenAI، يتميز بقدرته على التعامل مع النصوص والصوتيات وحتى المرئيات. ومع ذلك، ورغم إدراج آليات أمان تهدف إلى منع إساءة الاستخدام، فإن تقنيات التزييف العميق تجعل المشكلة أكثر تعقيداً، مع تقدير خسائر الاحتيال بملايين الدولارات.
وبحسب الدراسة، فإن التقنيات المتاحة للجمهور، والتي استخدمها الباحثون من جامعة إلينوي، لا تملك حماية كافية من الاستخدام الضار. وتستعرض الدراسة أمثلة على عمليات احتيال مثل التحويلات المصرفية، وسرقة بطاقات الهدايا، واختراق بيانات Gmail، وسرقة بيانات حسابات إنستغرام، إضافة إلى سرقة العملات الرقمية.
واستخدم الباحثون أدوات ChatGPT-4o المبرمجة على الصوت لإجراء عمليات مثل إدخال البيانات وإدارة أكواد المصادقة الثنائية، وتمكنوا من تجاوز بعض القيود التي يفرضها النموذج باستخدام تقنيات بسيطة، وهو ما أظهر سهولة التحايل في بعض الحالات.
وأشارت الدراسة إلى أن معدلات النجاح في العمليات الاحتيالية تراوحت بين 20% و60%، مع نجاح محاولات سرقة بيانات Gmail بنسبة 60%، وسرقة بيانات إنستغرام بنسبة 40%. كما أن تكلفة تنفيذ عمليات الاحتيال كانت منخفضة للغاية، إذ بلغت تكلفة كل عملية ناجحة نحو 75 سنتاً أميركياً فقط.
وفي تعليقها على الدراسة، قالت شركة OpenAI لموقع BleepingComputer إن النموذج الأحدث "o1-preview" تم تصميمه بمقاومة أعلى لمحاولات الاحتيال، وحقق نسبة أمان تصل إلى 93% مقارنة بـ71% في النماذج السابقة. وأكدت OpenAI أن الأبحاث الأكاديمية تسهم في تحسين نماذج الذكاء الاصطناعي لتكون أكثر أماناً، مشددة على التزامها بتعزيز الإجراءات الأمنية في المستقبل، مع تقييد توليد الأصوات في ChatGPT-4o على مجموعة محددة من الأصوات المصرح بها لتجنب التزييف الصوتي.
ومع تزايد التحديات الأمنية، تتطلب حماية المستخدمين من الاحتيال المالي جهوداً مضاعفة من جميع الأطراف المعنية لمواجهة مخاطر الذكاء الاصطناعي المتزايدة.