AI Scam Calls Imitating Familiar Voices Are a Growing Problem – Here’s How They Work

 

AI کا استعمال کرتے ہوئے ان لوگوں کی آوازوں کی نقل کرنے کے لیے جن کو آپ جانتے ہوں گے اسکام کالز کو عوام کے غیر مشتبہ اراکین کا استحصال کرنے کے لیے استعمال کیا جا رہا ہے۔ یہ کالیں جنریٹو AI کے نام سے جانے جانے والے نظام کا استعمال کرتی ہیں، جس سے مراد ایسے سسٹمز ہیں جو ٹیکسٹ، امیجز، یا کسی دوسرے میڈیا جیسے کہ ویڈیو بنانے کے قابل ہوتے ہیں، صارف کے اشارے پر مبنی۔

ڈیپ فیکس نے پچھلے کچھ سالوں میں بہت سے ہائی پروفائل واقعات کے ساتھ بدنامی حاصل کی ہے، جیسے کہ اداکارہ ایما واٹسن کی مشابہت کو مشورے والے اشتہارات کی ایک سیریز میں استعمال کیا جانا جو فیس بک اور انسٹاگرام پر نمودار ہوئے۔

2022 کی وسیع پیمانے پر شیئر کی گئی - اور ڈیبنک کی گئی - ویڈیو بھی تھی جس میں یوکرین کے صدر ولادیمیر زیلنسکی یوکرین کے لوگوں کو "ہتھیار ڈالنے" کو کہتے نظر آئے۔

اب، ایک آڈیو ڈیپ فیک بنانے کی ٹیکنالوجی، جو کسی شخص کی آواز کی حقیقت پسندانہ نقل ہے، تیزی سے عام ہوتی جا رہی ہے۔ کسی کی آواز کی حقیقت پسندانہ کاپی بنانے کے لیے آپ کو الگورتھم کو تربیت دینے کے لیے ڈیٹا کی ضرورت ہے۔ اس کا مطلب ہے کہ آپ کے مطلوبہ ہدف کی آواز کی بہت ساری آڈیو ریکارڈنگز ہوں۔ اس شخص کی آواز کی جتنی زیادہ مثالیں آپ الگورتھم میں ڈال سکتے ہیں، حتمی کاپی اتنی ہی بہتر اور زیادہ قائل ہوگی۔

ہم میں سے بہت سے لوگ پہلے ہی اپنی روزمرہ زندگی کی تفصیلات انٹرنیٹ پر شیئر کرتے ہیں۔ اس کا مطلب ہے کہ آواز کی حقیقت پسندانہ کاپی بنانے کے لیے درکار آڈیو ڈیٹا سوشل میڈیا پر آسانی سے دستیاب ہو سکتا ہے۔ لیکن ایک بار ایک کاپی باہر آنے کے بعد کیا ہوتا ہے؟

What is the worst that can happen?

ڈیپ فیک الگورتھم ڈیٹا پر قبضہ کرنے والے کسی بھی فرد کو "آپ" کو جو چاہے کہہ سکتا ہے۔ عملی طور پر، یہ اتنا ہی آسان ہو سکتا ہے جتنا کہ کچھ ٹیکسٹ لکھنا اور کمپیوٹر کو آپ کی آواز کی طرح اونچی آواز میں کہنے کے لیے۔

Major challenges

اس صلاحیت سے آڈیو غلط معلومات اور غلط معلومات کے پھیلاؤ میں اضافہ ہوتا ہے۔ اسے بین الاقوامی یا قومی رائے عامہ پر اثر انداز ہونے کی کوشش کرنے کے لیے استعمال کیا جا سکتا ہے، جیسا کہ Zelensky کے "ویڈیوز" کے ساتھ دیکھا جاتا ہے۔

لیکن ان ٹیکنالوجیز کی ہر جگہ اور دستیابی مقامی سطح پر بھی اہم چیلنجز کا سامنا کرتی ہے – خاص طور پر "AI سکیم کالز" کے بڑھتے ہوئے رجحان میں۔ بہت سے لوگوں کو ایک اسکیم یا فریب کاری کال موصول ہوئی ہوگی جو ہمیں بتاتی ہے، مثال کے طور پر، کہ ہمارے کمپیوٹر سے سمجھوتہ کیا گیا ہے اور ہمیں فوری طور پر لاگ ان کرنا ہوگا، ممکنہ طور پر کالر کو ہمارے ڈیٹا تک رسائی دینا ہوگی۔

یہ معلوم کرنا اکثر بہت آسان ہوتا ہے کہ یہ ایک دھوکہ ہے، خاص طور پر جب کال کرنے والا درخواست کر رہا ہو جو کسی جائز تنظیم سے کوئی نہیں کرے گا۔ تاہم، اب تصور کریں کہ فون کے دوسرے سرے پر آواز صرف کسی اجنبی کی نہیں ہے، بلکہ بالکل کسی دوست یا پیارے کی آواز ہے۔ یہ بدقسمت وصول کنندہ کے لیے پیچیدگی اور گھبراہٹ کی پوری نئی سطح کا انجیکشن لگاتا ہے۔