المطلعون على أوبن أيه آي ينتقدون الافتقار إلى شفافية الذكاء الاصطناعي

أصدرت مجموعة من الموظفين الحاليين والسابقين في أوبن أيه آي الثلاثاء 04-06-2024 رسالة مفتوحة تحذر من أن شركات الذكاء الاصطناعي الرائدة في العالم لا تتمتع بالشفافية والمساءلة اللازمتين لمواجهة المخاطر المحتملة التي تشكلها التكنولوجيا.

أثارت الرسالة مخاوف جدية بشأن مخاطر سلامة الذكاء الاصطناعي "التي تتراوح بين زيادة ترسيخ عدم المساواة القائمة، إلى التلاعب والتضليل، إلى فقدان السيطرة على أنظمة الذكاء الاصطناعي المستقلة مما قد يؤدي إلى انقراض الإنسان".

وحذر الموقعون الستة عشر، ومن بينهم أيضًا أحد موظفي Google DeepMind، من أن شركات الذكاء الاصطناعي "لديها حوافز مالية قوية لتجنب الرقابة الفعالة" وأن التنظيم الذاتي من قبل الشركات لن يغير هذا بشكل فعال.

وجاء في الرسالة: "تمتلك شركات الذكاء الاصطناعي معلومات كبيرة غير عامة حول قدرات أنظمتها والقيود المفروضة عليها، ومدى كفاية إجراءات الحماية الخاصة بها، ومستويات مخاطر أنواع مختلفة من الضرر".

"ومع ذلك، ليس لديهم حاليًا سوى التزامات ضعيفة بمشاركة بعض هذه المعلومات مع الحكومات، وليس لديهم أي التزام مع المجتمع المدني. ولا نعتقد أنه يمكن الاعتماد عليهم جميعًا لمشاركة هذه المعلومات طوعًا".

وأضافت الرسالة أن هذا الواقع يعني أن الموظفين داخل الشركات هم الوحيدون الذين يمكنهم إخطار الجمهور، ودعا الموقعون إلى قوانين أوسع للمبلغين عن المخالفات لحمايتهم.

وجاء في الرسالة: "اتفاقيات السرية الواسعة تمنعنا من التعبير عن مخاوفنا، باستثناء الشركات نفسها التي قد تفشل في معالجة هذه القضايا".

وذكرت صحيفة نيويورك تايمز أن الموظفين الأربعة الحاليين في أوبن أيه آي وقعوا الرسالة دون الكشف عن هويتهم لأنهم يخشون انتقام الشركة.

كما وقع عليها يوشوا بنجيو، وجيفري هينتون وستيوارت راسل، الذين غالبًا ما يوصفون بأنهم "عرابون" الذكاء الاصطناعي وانتقدوا عدم الاستعداد لمواجهة مخاطر الذكاء الاصطناعي.

رد أوبن أيه آي في بيان على الانتقادات.

وجاء في بيان: "نحن فخورون بسجلنا الحافل في توفير أنظمة الذكاء الاصطناعي الأكثر قدرة والأكثر أمانًا، ونؤمن بنهجنا العلمي في معالجة المخاطر".

"نحن نتفق على أن النقاش الدقيق أمر بالغ الأهمية نظرا لأهمية هذه التكنولوجيا وسنواصل التعامل مع الحكومات والمجتمع المدني والمجتمعات الأخرى في جميع أنحاء العالم."

وقالت أوبن أيه آي أيضًا إن لديها "سبلًا للموظفين للتعبير عن مخاوفهم بما في ذلك خط ساخن مجهول للنزاهة" ولجنة السلامة والأمن المشكلة حديثًا بقيادة أعضاء مجلس الإدارة والمديرين التنفيذيين، بما في ذلك الرئيس التنفيذي سام التمان.

ويأتي انتقاد أوبن أيه آي، الذي صدر لأول مرة لصحيفة التايمز، مع تزايد الأسئلة حول قيادة ألتمان للشركة.

كشفت شركة أوبن أيه آي النقاب عن موجة من المنتجات الجديدة، على الرغم من إصرار الشركة على أنها لن يتم طرحها للجمهور إلا بعد اختبار شامل.

أثار الكشف عن روبوت محادثة يشبه الإنسان جدلاً عندما اشتكت نجمة هوليوود سكارليت جوهانسون من أنه يشبه صوتها إلى حد كبير.

وكانت قد رفضت سابقًا عرضًا من ألتمان للعمل مع الشركة.