ليس هناك قوانين بعد : من المسؤول عندما ترتكب سيارة ذاتية القيادة أخطاء قاتلة؟

لندن - ها أنت تسوق على طول طريق سريع بسيارتك ذاتية القيادة، بينما تشارك في أحد الاجتماعات على منصة زووم، أو ببساطة تنام على مقعد الراكب، وفجأة يوقظك صوت ارتطام مزعج.

لقد خذلتك التكنولوجيا التي وثقت فيها، ووضعت بين يديها حياتك وحياة الآخرين، والتي لم تستطع اكتشاف أحد المشاة وهو يخاطر بحياته لاجتياز الشارع.

وتتمتع السيارة بالذكاء الكافي على الأقل لتستشعر حدوث شيء ما، حيث سترسل تقريرا عن الحادث وصورا بالكاميرا وموقعها إلى الشرطة، ثم تُشعل أضواء الخطر وتتوقف بأمان على جانب الطريق انتظارا لوصول خدمات الطوارئ.

ويستمر سير المركبات ذاتية القيادة في ساعة الذروة، باستخدام ذكاء السرب للحفاظ على حركة المرور بالسرعة المثلى، وبالكاد يتباطأ سير السيارات أثناء مناورتها وحركتها بكل مرونة حول جسد الضحية.

تداعيات قانونية

إذا حدث مثل هذا الحادث لسائق يقود سيارة عادية اليوم، في أي مكان في العالم تقريبا، سيواجه عواقب وخيمة.

ولكن واحدة من أحدث النقاط المحورية نحو فتح الباب على مصراعيه للمركبات ذاتية القيادة، هي التزكية التي قدمتها دراسة حول الثغرات القانونية المحتملة من قبل الحكومة البريطانية والتي تنص على إعطاء مستخدمي السيارات ذاتية القيادة حصانة من الملاحقة القضائية لأي شيء قد يحدث، من تجاهل الإشارة الحمراء إلى القيادة الخطرة التي تؤدي إلى الوفاة.

ووفقا لتلك الدراسة، يقع اللوم على كاهل الشركة المصنعة لنظام قيادة السيارة، كما تقترح الدراسة، ألا تتجاوز مسؤولية السائق التأكد من أن السيارة مؤمنة بشكل صحيح وأن الركاب يرتدون أحزمة الأمان.

وليس من الواضح ما إذا كانت الحكومة البريطانية ستتبنى تلك التوصيات، أو ما هو عدد الدول الأخرى التي ستحذو حذوها. ولكن مع اقتراب تحول فكرة السيارات ذاتية القيادة إلى واقع معيش، فإن الحكومات تجاهد للتعامل مع التداعيات القانونية التي ستتمخض عن ذلك الواقع.

ويؤكد جورنال أن العالم بأسره سيتبنى في نهاية المطاف إطارا قانونيا موحدا للتعامل مع التساؤلات شبه الفلسفية التي تطرحها أنظمة الذكاء الاصطناعي، خصوصا المركبات ذاتية القيادة، لأنه لا يوجد خيار آخر، فلا يمكن لمصنعي السيارات إنشاء أنظمة تقنية معقدة وإطار قانوني لتلبية المتطلبات المختلفة للعشرات من المناطق القضائية لدول متعددة.

وبينما يضغط المصنعون على المشرعين لإظهار المزيد من المرونة واللين، تسود الحيرة والارتباك، بدءا من التعريف المعتمد على نطاق واسع للأتمتة، والذي استحضرته جمعية مهندسي السيارات الدولية.

وبناء عليه، يوجد حاليا خمسة مستويات من الأتمتة، ففي المركبات المصنفة على أنها مستويات من 0 إلى 2، يُنظر إلى المستخدمين على أنهم يقودون سياراتهم، حتى وإن كانت أيديهم بعيدة عن عجلة القيادة وأقدامهم بعيدة عن الدواسات، على الرغم من أن أنظمة دعم السائق الذكية تتراوح من إيقاف السيارة التلقائي في حالة الطوارئ، وتحذيرات ترك المسار، إلى توسيط السيارة في قلب الحارة، والتحكم في ثبات السرعة.

ولكن، في السيارات من المستويات 3 إلى 5، لا يُعتبر المستخدمون للسيارات على أنهم سائقون، حتى لو كانوا جالسين خلف عجلة القيادة.

والمركبات من المستوى 5 فقط قادرة على قيادة نفسها في كافة الظروف، وعلى الرغم من وجود صخب وضجيج حول نظام “الطيار الآلي” من تسلا، لم يتم اعتماد مثل هذه السيارات للاستخدام على الطرق في أي مكان في العالم، حتى الآن.

في النهاية سيتبنى العالم إطارا قانونيا موحدا للتعامل مع تساؤلات فلسفية تطرحها أنظمة الذكاء الاصطناعي

ولا تزال التكنولوجيا كما يقول جورنال بعيدة عن مرحلة الكمال، ففي الولايات المتحدة، فتحت الإدارة الوطنية للسلامة المرورية على الطرق السريعة تحقيقا في نظام الطيار الآلي بعد تحديد 11 حادثا منذ عام 2018، حيث اصطدمت سيارة تسلا بالمركبات الأخرى في مناطق كان يعمل فيها المستجيبون الأولون.

وفي حادث سابق آخر اتهمت هيئة المحلفين الكبرى في مقاطعة ماريكوبا بالولايات المتحدة، امرأة كانت خلف عجلة القيادة في سيارة أوبر، شبه مستقلة، الشهر الماضي بارتكاب جريمة قتل بسبب الإهمال في وفاة امرأة عام 2018.

وهذه أول دعوى ترفع ضد سائق احتياطي، في أول حالة وفاة معروفة لسيارة ذاتية القيادة، وتحولت إلى قضية بارزة قد تؤثر على مستقبل الذكاء الاصطناعي في الولايات المتحدة.

من الذي يجب أن يحاسب على الخطأ المرتكب؟ المستخدم، المصمم، أم البائع؟ لا يوجد حتى الآن جواب حاسم لهذا التساؤل.

تحديد الخطأ عندما يلعب الذكاء الاصطناعي دورا في إصابة شخص أو وفاته ليس بالمهمة السهلة. إذا كان الذكاء الاصطناعي هو المسيطر وحدث خطأ ما، فمتى يكون هذا خطأ الإنسان المتعامل ومتى يمكنك إلقاء اللوم على الذكاء الاصطناعي؟

القضية أصبحت محور بحث نُشر مؤخرا في مجلة جامعة بوسطن للقانون. ويقول أندرو سيلبست الأستاذ المساعد بجامعة كاليفورنيا في لوس أنجلس، إن الذكاء الاصطناعي يشكل ثغرة في قانون الإهمال الحالي، ويتطلب تدخل المنظمين.

وتوقع سيلبست حينها أن تذهب القضية في اتجاهين. قد يجد القاضي أو هيئة المحلفين أنه من غير المعقول تحميل المسؤولية على شخص يتعامل مع مركبة شبه مستقلة. أو يمكن إسناد المسؤولية إلى فاعل بشري لديه سيطرة محدودة على النظام الآلي أو المستقل.

وهذا ما تسميه عالمة الأنثروبولوجيا الثقافية مادلين إيليش “منطقة الانهيار الأخلاقي”. عندما يتم النظر إلى الآلات والبشر جنبا إلى جنب، ولكن القانون يفشل في أخذ الذكاء الآلي في الاعتبار، ليتحمل البشر المسؤولية.

ويميل العاملون في مجال القانون إلى التمييز بين السيارات ذاتية القيادة بالكامل والآلات شبه المستقلة التي تعمل مع البشر، مثل السيارة المتورطة في حادث أوبر. في حين أن المركبات المستقلة بالكامل أو الذكاء الاصطناعي العام (AGI) قد يحول المسؤولية إلى صانع الأجهزة أو نظام الذكاء الاصطناعي، فإن الإجابة تكون أقل وضوحا عندما يستخدم الإنسان الذكاء الاصطناعي لاتخاذ قرار بناء على التنبؤ أو التصنيف أو التقييم.

تضحيات لا مفر منها

ومؤخرا في ولاية كاليفورنيا، أصبح سائق سيارة تسلا اجتازت سيارته الإشارة الحمراء أثناء القيادة الآلية، واصطدمت بسيارة أخرى مما أسفر عن مقتل شخصين، أول شخص يستخدم نظام قيادة آلي ويُتهم بالقتل الخطأ في الولاية.

ولن يقولوها علانية، ولكن للمهندسين الذين يطورون السيارات ذاتية القيادة، والمستثمرين الذين يدعمون تلك المساعي، فمثل هذه الوفيات هي وفيات محزنة، ولكنها تضحيات لا مفر منها لضمان التقدم والتطور.

وكما تدعي جمعية مصنعي السيارات والتجار، في المملكة المتحدة وحدها “يمكن لأنظمة القيادة الآلية أن تمنع 47000 حادث خطير من الوقوع، وتنقذ حياة 3900 شخص خلال العقد المقبل”.

وهذا يبدو رائعا، لكن ما تصفه الجمعية هو تقنية متقنة تماما تم فيها إصلاح جميع الأخطاء، وهي حقيقة لا تزال بعيدة المنال.

في عالم مليء بالبشر وأنظمة الذكاء الاصطناعي التي تتخذ القرارات معا، “تحتاج الحكومات إلى إعادة النظر في الإصلاحات التي تمنح قانون الإهمال فرصة للحاق بالتكنولوجيا الناشئة بسرعة”.

ويتوقع سيلبست أن يمثل ذلك تحديات جديدة للشركات والحكومات والمجتمع، فقد تم تصميم الغالبية العظمى من أنظمة الذكاء الاصطناعي المتاح اليوم لتعزيز عملية صنع القرار البشري. وتتراوح الأمثلة من الخوارزميات التي يستخدمها القضاة إلى الأدوات المدعومة بالذكاء الاصطناعي التي يستخدمها الأطباء لوضع خطة العلاج الطبي أو التشخيص. وتشمل هذه الأنظمة التي تكتشف الأنماط في الصور الطبية لمساعدة المتخصصين في تشخيص أمراض مثل سرطان الثدي وسرطان الرئة وسرطان الدماغ، وصولا إلى نظام يحاول تشخيص كوفيد – 19 باستخدام الأشعة السينية.

عندما يقرر المجتمع أن الذكاء الاصطناعي مفيد جدا بحيث لا يمكن تنحيته جانبا، سنحتاج حينها على الأرجح إلى نموذج تنظيمي جديد لتعويض ضحايا استخدام الذكاء الاصطناعي، ويجب أن يكون منفصلا عن الحاجة إلى اكتشاف الخطأ. قد تكون هذه مسؤولية صارمة، أو قد تكون تأمينا واسع النطاق، أو قد تكون تنظيما مسبقا.

محرك النمو
لقد تم تطوير نماذج مختلفة لمعالجة هذه المشكلة، مثل “إدارة الغذاء والدواء للخوارزميات”، وهي وكالة فيدرالية من شأنها أن تعمل مثل إدارة الغذاء والدواء في التحقيق في العقاقير الصيدلانية.

قد يؤدي القيام بذلك إلى منح معايير قانون الإهمال وقتا لمواكبة التطورات في الذكاء الاصطناعي قبل حدوث التحولات المستقبلية في النموذج وتأخر المعايير بشكل أكبر. وتستكشف الورقة أيضا السؤال عما يحدث عندما يلعب التحيز الخوارزمي دورا في الإصابة.

بالعودة إلى سؤال السيارة المستقلة، أظهرت الأبحاث أن أنظمة الرؤية الحاسوبية تقوم بعمل أفضل في اكتشاف المشاة البيض من المشاة السود. وبينما يقلل استخدام هذه الأنظمة من وفيات حوادث السيارات بشكل عام، لن تكون نتائجها عندما يتعلق الأمر بالمشاة السود على نفس السوية.

ويعترف الملياردير الأميركي إيلون ماسك، المتحمس للسيارات ذاتية القيادة بالصعوبات التي يجب على المصنعين تجاوزها، قائلا “المشكلة الصعبة تتمثل في جعل الذكاء الاصطناعي في العالم الحقيقي يعمل بشكل صحيح. تتطلب القيادة الذاتية حل جزء كبير من مشكلات الذكاء الاصطناعي في العالم الحقيقي. إنها مهمة صعبة للغاية. ولكن تسلا تنجزها”.

هناك أمثلة كثيرة على إساءات ارتكبتها أنظمة الذكاء الاصطناعي، مثال عليها، روبوت دردشة صممته شركة مايكروسوفت لتقليد مراهق، حيث بدأ في إلقاء خطاب يحض على الكراهية العنصرية في غضون ساعات من إصداره عبر الإنترنت. بالطبع سارعت مايكروسوفت إلى إزالة الروبوت.

نظام آخر، صممته أمازون للمساعدة في انتداب موظفين جدد لكنها لم تطلقه في النهاية، حيث ميز عن غير قصد ضد المتقدمات من الإناث. وأدت أنظمة “الذكية” أخرى إلى اعتقالات كاذبة. ويتوقع الخبراء رؤية المزيد من حالات الذكاء الاصطناعي الإشكالية مع تزايد تطبيق التكنولوجيا الذكية.

القلق هو أنه في حين أن الذكاء الاصطناعي قد ينجح في تقليل العدد الإجمالي لحوادث السيارات، فإنه لن يقضي عليها، لكنه سيقضي على قدرة المصابين في النظام الجديد على التعافي من الإهمال.

هناك مخاطر دائما من تحيز الذكاء الاصطناعي ضد فئة من الناس لا يمكن إنصافها.

الابتكار هو محرك النمو الاقتصادي، ونحن جميعا نستفيد من الصناعات الجديدة. ولكن من سألنا عما إذا كنا نريد ركوب سيارات ذاتية القيادة، بغض النظر عن حقيقة أن الكثير من الناس يحبون القيادة، وكم عدد سائقي السيارات الذين سيشعرون بالاطمئنان حقا وهم يبعدون أعينهم عن الطريق وأيديهم عن عجلة القيادة، ومن ثم وضع أعناقهم بين يدي أحد برامج الكمبيوتر الإلكتروني؟

وفي الوقت نفسه، تتسابق العديد من البلدان، بما في ذلك المملكة المتحدة على هذا المضمار والذي يحتاج إلى الكثير من التجارب والدراسات، حيث أعلنت دبي، على سبيل المثال، أن نسبة 25 في المئة من وسائل النقل على طرقها ستكون مستقله ذاتيا بحلول عام 2030.

وهناك قضية أخلاقية أخرى مرتبطة بهذا الاندفاع الكبير لاحتضان السيارات ذاتية القيادة، وهي قضية يتجاهلها كل مستثمر في قطاع تكنولوجيا السيارات الذكية. ماذا سيحدث لوظائف مئات الآلاف من السائقين وعائلاتهم؟

قد تجد نفسك محصنا من الملاحقة القضائية إذا قامت سيارتك ذاتية القيادة بقتل أحد المشاة، ولكن في الاندفاع نحو تبني تقنية -لنكن صادقين، ليست جاهزة ولا مطلوبة- سنكون مذنبين بالتواطؤ في كارثة اجتماعية أكبر بكثير، وهي كارثة لم يتم حتى الآن دراسة تداعياتها بشكل صحيح. إن كانت السيارات ذاتية القيادة لا تملك ضميرا اجتماعيا، فهذا ليس حال البشر.