نُشرت مقالتي البحثية «From Assistants to Agents: A Relational Framework for Human–AI Co-Agency» (من المساعدين إلى الوكلاء: إطار علائقي للفاعلية المشتركة بين الإنسان والذكاء الاصطناعي) في مجلة AI and Ethics الصادرة عن Springer Nature. وهي تتناول سؤالًا محوريًا في عصرنا: مع تطوّر أنظمة الذكاء الاصطناعي من أدوات مساعدة إلى أنظمة تتمتع بقدر متزايد من الفاعلية، كيف ينبغي أن نعيد التفكير في الفاعلية البشرية، والاستقلالية المفوَّضة، والإشراف، والمسؤولية؟

فيما يلي التأمل الذي شاركته على منصة Springer Nature Research Communities حول أسباب كتابتي لهذا البحث.

بين الأداة والفاعل المستقل

حين نتحدث عن الذكاء الاصطناعي، ما زال جزء كبير من النقاش يتأرجح بين صورتين مألوفتين. فمن جهة، يُعامَل الذكاء الاصطناعي بوصفه أداة متطورة: شيئًا يدعم الفعل البشري لكنه يبقى خارج دائرة المسؤولية. ومن جهة أخرى، يوصف أحيانًا بعبارات تكاد تكون بشرية، كأنه أصبح فاعلًا مستقلًا قائمًا بذاته. وقد بدت لي كلتا الرؤيتين، كلٌّ على طريقتها، ناقصتين.

ما شدّ اهتمامي أكثر فأكثر كان سؤالًا أصعب: ماذا يحدث عندما لا يكون الذكاء الاصطناعي مجرد مساعد، ولا مستقلًا تمامًا، بل يعمل داخل أنظمة منظَّمة من التفويض والإشراف والمسؤولية المؤسسية؟ بعبارة أخرى، ماذا يحدث عندما يتوزع الفعل بين البشر والأنظمة الاصطناعية وهياكل الحوكمة؟

التفكير في الفاعلية بصورة علائقية

الفكرة المحورية في المقالة بسيطة: إن صعود الذكاء الاصطناعي الوكيلي يفرض علينا إعادة التفكير في الفاعلية بصورة علائقية. ففي كثير من السياقات الواقعية، لا يعمل الذكاء الاصطناعي بمعزل عن غيره؛ إذ إن مبادرته الظاهرة تُمكَّن وتُحدَّد وتُفسَّر من خلال قرارات بشرية، وأهداف مؤسسية، وتصميم تقني، وآليات حوكمة. وهذا يعني أن المسؤولية لا يمكن فهمها بالنظر إلى الآلة وحدها، أو إلى المستخدم الفرد وحده، بل يجب فهمها من خلال بنية النظام الاجتماعي التقني في مجمله.

ولجعل هذه الحجة أكثر قابلية للتطبيق، اقترحتُ إطارًا من أربعة أبعاد:

تهدف هذه الأبعاد إلى توضيح أين يبدأ التفويض، وإلى أي مدى يمتد، وكيف يُحافَظ على الإشراف، وكيف ينبغي أن تبقى المساءلة راسخة حتى عندما تتولى الأنظمة قدرًا أكبر من المبادرة.

جسر بين النظرية والمؤسسات

من أسباب شعوري بأهمية هذا الموضوع أن النقاشات حول حوكمة الذكاء الاصطناعي تبقى غالبًا إما مجردة أكثر من اللازم، أو إجرائية أكثر من اللازم. فنحن نتحدث بعبارات عامة عن الأخلاقيات والثقة والتنظيم والسياسات، لكن كثيرًا ما يغيب الجسر المفاهيمي العملي بين النظرية والتصميم المؤسسي. أردتُ لهذا العمل أن يسهم في هذه الطبقة الوسيطة: ألّا نسأل فقط عمّا هو الذكاء الاصطناعي، بل كيف ينبغي تقييم الترتيبات بين الإنسان والذكاء الاصطناعي حين تتوزع القرارات والأفعال وعواقبها.

كما كان يقلقني أن مفردة «الاستقلالية» قد تحجب أحيانًا أكثر مما تكشف. فالمسألة ليست مجرد ما إذا كان النظام يبدو مستقلًا، بل الأهم هو ما إذا كانت المؤسسات ما زالت قادرة على تنظيم التفويض بمسؤولية. فقد يبدو نظام ما عالي القدرة وهو يعتمد على حوكمة ضعيفة. وفي المقابل، قد تتآكل المساءلة البشرية لا لأن البشر يختفون، بل لأن الأدوار والحدود وهياكل المسؤولية تصبح ضبابية.

وبهذا المعنى، فإن التحدي الذي يطرحه الذكاء الاصطناعي الوكيلي ليس فاعلية الآلة بمعزل عن سياقها، بل هو مواءمة الفعل المفوَّض مع إشراف بشري حقيقي ومسؤولية مؤسسية. وآمل أن يسهم هذا العمل في حوار أكثر رسوخًا ودقة حول الطريقة التي ينبغي أن تستجيب بها المجتمعات والمؤسسات وأنظمة الحوكمة مع ازدياد الطابع الوكيلي للذكاء الاصطناعي.

قراءة المقالة

*محمد سالم علي باحث مستقل في أخلاقيات الذكاء الاصطناعي وفلسفة التكنولوجيا والحوكمة، والرئيس التنفيذي لشركة Og Innovation، والشريك المؤسس لشركة Ranza SARL.*