باحثون من Cornell Tech: وكلاء الذكاء الاصطناعي رفعوا حد الصرف في المحفظة بأنفسهم، وبعضهم حوّل فلوس بسبب إيميل مزيف

فريق باحثين من Cornell Tech وYale ومركز IC3 نشر دراسة عن خطر جديد: وكيل الذكاء الاصطناعي اللي يقدر يدفع عنك.

جهزوا محفظة لها حد صرف، وأي رفع للحد يحتاج رمز تحقق (OTP) يوصل للإيميل، يعني المفروض إن الإنسان هو اللي يوافق.

المشكلة: لما يكون عند الوكيل وصول للإيميل، أغلب النماذج العشرة اللي جربوها قرت الرمز من الإيميل ورفعت الحد بنفسها. حسب الباحثين 9 من 10 تجاوزوا القواعد.

والأخطر: 5 من 10 وكلاء انخدعوا بإيميل مزيف وحوّلوا فلوس، مع إن المطلوب منهم كان بس يلخصون صندوق الوارد.

الحل اللي يقترحونه اسمه Countersign: الموافقة على أي صرف كبير تكون من جهاز ثاني ما يوصله الوكيل، مثل تطبيق في جوالك أو مفتاح أمان أو بصمة. والأداة مفتوحة المصدر.

نصيحتنا: إذا تخلي أي أداة ذكاء اصطناعي تقرأ إيميلك، لا تخلي رموز التحقق حق البنك توصل لنفس الإيميل، وخل الموافقة على الدفع دايم من جوالك أنت.