تتسارع قدرات الذكاء الاصطناعي وتتوسع تطبيقاته في العمل والاقتصاد والأمن السيبراني، لكن الأطر المنظمة لسلامة هذه التقنية لا تزال تثير تساؤلات بشأن قدرتها على مواكبة المخاطر الجديدة. وفي هذا السياق، دعا رئيس شركة مايكروسوفت براد سميث إلى وضع قواعد عالمية أكثر صرامة لتنظيم الذكاء الاصطناعي، مستخدماً مقارنة لافتة بين متطلبات سلامة هذه التقنية والضوابط المفروضة على منتجات يومية، مثل الحليب والغسالات.
وفي مقابلة مع هيئة الإذاعة البريطانية (بي بي سي) أول أمس الاثنين، قال سميث إن المنتجات الاستهلاكية تخضع لقواعد سلامة وفحوص أكثر وضوحاً مما تخضع له أنظمة الذكاء الاصطناعي.
ووفقاً لما نشرته وكالة رويترز، فقد طالب سميث بوضع إطار دولي يتضمن تقييمات مستقلة للتقنيات الجديدة، وإلزام الشركات بإعداد تقارير عن الحوادث، وإبلاغ المتضررين عندما يتسبب وكيل ذكاء اصطناعي منفلت في اختراق أنظمتهم.
من سلامة المنتجات إلى مخاطر الأنظمة الذكية
تستند مقارنة سميث إلى اختلاف طبيعة الرقابة بين المنتجات التقليدية والتقنيات الرقمية، ففي قطاعات الغذاء والأجهزة المنزلية، توجد قواعد تتعلق بالسلامة والجودة، وإجراءات للفحص والمراقبة، ومسؤوليات قانونية عند وقوع الضرر، وإن اختلفت تفاصيلها من دولة إلى أخرى.
أما الذكاء الاصطناعي، فتتغير قدراته بسرعة، وتختلف مخاطره بحسب النموذج وطريقة استخدامه والصلاحيات الممنوحة له، فقد ينتج نظام محادثة معلومات مضللة، أو يكشف بيانات حساسة، أو ينفذ وكيل ذكي إجراءات رقمية غير مقصودة إذا مُنح صلاحية الوصول إلى الملفات أو الحسابات أو أدوات العمل.
ولا تعني المقارنة أن الذكاء الاصطناعي يخضع لغياب كامل للتنظيم، إذ توجد بالفعل قوانين وأطر للحوكمة في عدد من الدول، لكنها تسلط الضوء على التحدي المتمثل في تحويل المبادئ العامة للسلامة إلى اختبارات وإجراءات قابلة للتحقق والمساءلة، تتناسب مع سرعة تطور الأنظمة واتساع استخداماتها.
الاختبارات المستقلة ومحاسبة الشركات
يرى سميث أن تنظيم الذكاء الاصطناعي يجب أن يتجاوز التعهدات الطوعية التي تضعها الشركات لنفسها، ليشمل آليات مستقلة تستطيع فحص قدرات النماذج ومخاطرها قبل إتاحتها للاستخدام، وذكرت رويترز أن معهد سلامة الذكاء الاصطناعي البريطاني يحصل، بموجب اتفاقات طوعية مع شركات تطوير النماذج، على إمكانية تقييم أنظمة متقدمة قبل نشرها، بهدف فحص قدراتها والمخاطر المرتبطة بها.
وتكتسب هذه الاختبارات أهمية مع انتقال الذكاء الاصطناعي من الإجابة عن الأسئلة إلى تنفيذ مهام نيابة عن المستخدمين، مثل التعامل مع الملفات والبرمجيات والأنظمة الرقمية، ففي هذه الحالات، ربما لا يقتصر الخطأ على تقديم معلومة غير صحيحة، بل قد يمتد إلى تنفيذ إجراء غير مرغوب فيه أو الوصول إلى بيانات لا ينبغي للنظام الاطلاع عليها.
ولهذا دعا سميث إلى توفير ما وصفها بمكابح الطوارئ، وهي آليات تمكّن الشركات من إيقاف أنظمة الذكاء الاصطناعي أو إبطائها إذا خرج سلوكها عن الحدود الآمنة، كما طالب بفرض التزام قانوني بإعداد تقارير عن الحوادث، وإخطار المتضررين عندما يتسبب وكيل ذكاء اصطناعي في اختراق أنظمتهم.
ولا تتوقف المسألة عند اكتشاف الخلل، بل تشمل تحديد الجهة المسؤولة عنه، وهل تقع المسؤولية على الشركة المطورة للنموذج، أم المؤسسة التي دمجته في خدماتها، أم الجهة التي منحته صلاحيات واسعة؟ وتزداد أهمية هذا السؤال كلما أصبحت الأنظمة أكثر استقلالية وتعقيداً، ما يجعل وضوح المسؤوليات القانونية جزءاً أساسياً من حماية المستخدمين.
بين التنظيم وتشجيع الابتكار
تواجه الحكومات تحدياً في وضع قواعد تحمي الأفراد والمؤسسات من مخاطر الذكاء الاصطناعي، من دون فرض قيود تعرقل الأبحاث أو تمنح الشركات الكبرى أفضلية على المنافسين الأصغر، وقد أشارت رويترز إلى أن الدعوات لتشديد التنظيم أثارت نقاشاً بشأن احتمال أن تستفيد الشركات الراسخة من قواعد مكلفة يصعب على المنافسين الجدد الالتزام بها، أو أن تُستخدم الضوابط لإبطاء المنافسة.
وتبرز بريطانيا في هذا النقاش من خلال معهد سلامة الذكاء الاصطناعي، الذي يقيّم النماذج المتقدمة قبل طرحها بموجب اتفاقات طوعية، ونقلت رويترز عن وزير الذكاء الاصطناعي البريطاني كانيشكا نارايان أن الحكومة ستدرس تنظيم النماذج المتقدمة إذا ثبت عدم كفاية النهج الحالي، ويعكس ذلك اتجاهاً نحو اختبار فاعلية التدابير القائمة قبل تقرير الحاجة إلى قواعد ملزمة أوسع.
في المقابل، أعلنت مايكروسوفت في تقرير الشفافية الخاص بالذكاء الاصطناعي لهذا العام أنها طورت معاييرها الداخلية للذكاء الاصطناعي المسؤول، لتراعي اختلاف مكونات التقنية واستخداماتها ومستويات المخاطر، ويظهر هذا التوجه أن الحوكمة الداخلية للشركات يمكن أن تؤدي دوراً مهماً، لكنه لا يحسم وحده مسألة الرقابة المستقلة أو المسؤولية القانونية عند وقوع الضرر.
