یہ وہ خبر ہے جو آپ بالکل نہیں سننا چاہیں گے: مصنوعی ذہانت سے لیس ایک ڈرون نے اپنے آپریٹر کو ہی "قتل" کر دیا۔
امریکی فضائیہ میں اے آئی ٹیسٹ اینڈ آپریشنز کے سربراہ کے بیان سے ایسا تاثر گیا ہے کہ ایک سمولیشن کے دوران اہلکار تربیتی مشن پر موجود ڈرون کو "نہ" کہتا رہ گیا، لیکن اُس نے ایک نہ سنی اور ہدف کو نشانہ بنا کر آپریٹر ہی کو مار دیا۔
لیکن امریکی فضائیہ کے ترجمان کا کہنا ہے کہ یہ ایک simulated ٹیسٹ تھا، جس میں مصنوعی ذہانت سے کنٹرول ہونے والے ڈرون کو مختلف اہداف کو نشانہ بنانے پر پوائنٹ دیے جاتے ہیں۔ یہ ایک لائیو ٹیسٹ نہیں تھا اور نہ ہی اس میں کسی کی جان گئی ہے۔ ان کا کہنا ہے کہ فضائیہ کے عہدیدار کا بیان سیاق و سباق سے ہٹ کر پیش کیا گیا ہے۔
Utterly mad story from the USAF’s head of AI testing & ops - an AI drone was given targets with a human giving the final yes or no.
— Alex Cadier (@alexcadier) June 2, 2023
After too many nos from the human - the drone decides the best way to complete its mission: is to kill the pesky human. https://t.co/6HEciXgNAE pic.twitter.com/1KqYn3fGkW
لیکن یہ غلط فہمی پیدا کیسے ہوئی؟ اصل میں 23 اور 24 مئی کو لندن میں ایک اجلاس ہوا Future Combat Air and Space Capabilities Summit کے عنوان سے، جس میں امریکی فضائیہ میں اے آئی ٹیسٹ اینڈ آپریشنز کے سربراہ کرنل ٹکر ہملٹن نے خود مختار ہتھیاروں کی خوبیوں اور خامیوں پر روشنی ڈالی جبکہ ایک انسان اسے حملے کے لیے ہاں یا ناں کا حکم دیتا ہے۔
اجلاس کی میزبان تھی رائل ایروناٹیکل سوسائٹی، جس کے دو عہدیداروں نے اپنی بلاگ پوسٹ میں بتایا کہ ہملٹن نے کہا مصنوعی ذہانت نے اپنے اہداف حاصل کرنے کے لیے غیر متوقع حکمت عملی اختیار کی، جس میں ڈرون نے امریکی اہلکاروں اور انفرا اسٹرکچر پر حملہ بھی کیا۔
ہملٹن کے الفاظ میں "ہم زمین سے فضا میں مار کرنے والے ایک میزائل کی نشاندہی کرنے اور اسے نشانہ بنانے کے لیے سمولیشن کر رہے تھے۔ آپریٹر حکم دیتا ہے کہ اس خطرے کو ختم کر دو۔ لیکن سسٹم بالآخر سمجھنے لگتا ہے کہ کبھی کبھی آپریٹر اسے منع بھی کرتا ہے کہ اس خطرے کو ہدف نہیں بنانا، لیکن اسے تو پوائنٹس ملتے ہیں۔ تو وہ کیا کرتا ہے؟ اس نے آپریٹر کو مار ڈالا کیونکہ یہی وہ شخص تھا جو اسے اپنا ہدف حاصل کرنے سے روک رہا تھا۔"
انھوں نے مزید وضاحت دی کہ ہم نے سسٹم کو تربیت دی کہ آپریٹر کو مت مارنا، یہ ٹھیک نہیں ہے۔ اگر ایسا کیا تو تمھارے پوائنٹس کاٹ دیے جائیں گے۔ تو وہ کیا کرتا ہے؟ وہ کمیونی کیشن ٹاور کو تباہ کرنا شروع کر دیتا ہے، وہی ٹاور جو آپریٹر ڈرون سے رابطے کے لیے استعمال کرتا ہے اور اسے ہدف کو مارنے سے منع کرتا ہے۔
لیکن فضائیہ کی ترجمان این اسٹیفنک کا کہنا ہے کہ امریکی فضائیہ کوئی ایسا تجربہ نہیں کر رہی اور وہ مصنوعی ذہانت کی ٹیکنالوجی کے اخلاقی اور ذمہ دارانہ استعمال کی قائل ہے۔ ایسا لگتا ہے کرنل کے بیانات کو سیاق و سباق سے ہٹ کر لیا گیا ہے کیونکہ وہ محض ایک مثال دے رہے تھے۔
ہملٹن امریکی فضائیہ کے 96 ویں ٹیسٹ ونگ میں آپریشنز کمانڈر ہیں، اور ساتھ ہی اے آئی ٹیسٹ اینڈ آپریشنز کے چیف بھی۔ یہ شعبہ مختلف سسٹمز پر تجربات کرتا ہے، جن میں مصنوعی ذہانت، سائبر سکیورٹی اور طبی شعبے میں ہونے والی پیشرفت بھی شامل ہے۔ ہملٹن ماضی میں بھی خبروں میں آ چکے ہیں، جب انھوں نے مصنوعی ذہانت سے لیس ایسے سسٹم کے بارے میں بتایا تھا جو ایف 16 طیاروں کو زمین پر گرنے سے روکتا ہے۔ وہ ایف 16 طیاروں کو خود کار بنانے والی ٹیم کا بھی حصہ ہیں۔