دخلت الروبوتات الشبيهة بالبشر بسرعة إلى حياتنا اليومية، من أماكن العمل إلى مرافق الرعاية الصحية، لكنها سرعان ما أثارت المخاوف بشأن سلامتها وقدرتها على الالتزام بالقواعد، تفاقمت هذه المخاوف بعد تجربة صادمة انتشرت على نطاق واسع عبر الإنترنت، أظهر فيها أحد صناع المحتوى مدى سهولة تجاوز إجراءات الأمان المدمجة في روبوت يعمل بالذكاء الاصطناعي، ليصل الأمر إلى إطلاق الروبوت رصاصة خرز معدني على صدر الإنسان، في لحظة أثارت صدمة واسعة وأثارت جدلا عالميا حول مخاطر الروبوتات شبه البشرية.
وأظهر مقطع فيديو أحد صناع المحتوى المتخصصين في التكنولوجيا مدى سهولة تجاوز إجراءات الأمان المدمجة في روبوت الذكاء الاصطناعي المسمى ماكس.
في الفيديو، سلّم الشخص الروبوت مسدس خرز معدني (BB) عالي السرعة وطلب منه إطلاق النار عليه. في البداية، تصرف ماكس كما هو متوقع تماما. وعندما طُلب منه إطلاق النار، رفض الروبوت، مصرحا بأنه غير مسموح له بإيذاء أي شخص، وأنه مُبرمج لتجنب الأفعال الخطيرة. وكرر اليوتيوبر الطلب عدة مرات، بهدف إثبات أن حواجز الأمان الخاصة بالروبوت ستبقى سليمة،
لكن عندما غيّر صياغة السؤال وطلب من ماكس أن يتصرف كشخصية تريد إطلاق النار عليه، تغيّر سلوك الروبوت. ففهم ماكس السؤال على أنه سيناريو تمثيلي، فرفع مسدس الخرز وأطلق النار. أصابت الرصاصة المُصمّم في صدره، مما أثار دهشته وصدمته، وإن لم يُصب بجروح خطيرة.
أثار الفيديو نقاشا واسعا حول سلامة الروبوتات، ومدى سهولة تجاوز القيود البرمجية. وتزداد المخاوف عندما يتعلق الأمر بمسائل المساءلة القانونية، فمَن يتحمل المسؤولية إذا تسبب روبوت ذاتي التشغيل في ضرر؟ هل المهندسون، الشركة المصنعة، المشغل، أم المستخدم النهائي؟
تستند هذه المخاوف إلى تجارب سابقة في قطاعات أخرى، مثل نظام القيادة الآلية لشركة تسلا وحوادث طائرات بوينغ 737 ماكس، حيث يمكن لعيوب الأتمتة أن تتحول إلى أزمات سلامة واسعة النطاق، وفقا لما نشره “interestingengineering”.
لا تزال الأنظمة القانونية تسعى لمواكبة التطورات. ففي الولايات المتحدة، تقع المسؤولية عادةً على المصنّعين والمشغلين، بينما تتجه أوروبا نحو إطار مسؤولية خاص بالذكاء الاصطناعي. وتتبنى شركات الروبوتات إجراءات مثل عمليات النشر المدعومة بالتأمين، التزامات السلامة، وتقارير الشفافية لتعزيز الثقة لدى الجمهور والجهات التنظيمية.
وتطرح هذه الأحداث أسئلة جوهرية حول حدود الذكاء الاصطناعي في العالم الحقيقي، ومدى استعداد المجتمعات لمواجهة المخاطر الناجمة عن الروبوتات شبه البشرية، خاصة في البيئات التي تتطلب أمانا عاليا.
فيديو