في عالم يتسارع فيه الذكاء الاصطناعي بوتيرة غير مسبوقة، يطرح سؤال الحوكمة نفسه كأولوية وجودية. تحذير الأمين العام للأمم المتحدة أنطونيو غوتيريش ليس مجرد دعوة تقنية، بل إنذار سياسي وأخلاقي يضع البشرية أمام مسؤولية عاجلة: هل نستطيع ضبط ما صنعناه قبل أن يتجاوزنا؟ النص التالي يستعرض أبعاد هذا التحدي.
في سبتمبر 2024 وقف أنطونيو غوتيريش، الأمين العام للأمم المتحدة، أمام الجمعية العامة ليُطلق تحذيراً لم يُعهد بهذا المستوى من القوة والمباشرة من رجل يتعامل في الغالب بلغة الدبلوماسية الحذرة: الذكاء الاصطناعي يُمثّل تهديدا وجوديا للإنسانية إذا لم تُبادر البشرية إلى وضع أطر حوكمة فعلية تسبق انفلات التكنولوجيا عن أي سيطرة.
ما يجعل هذا التحذير استثنائيا ليس محتواه، فكثيرون سبقوه إلى هذه القناعة، بل مصدره. غوتيريش ليس عالما في الحوسبة ولا ناشطا تقنيا ولا مفكرا في معهد أكاديمي. هو رأس المنظومة الأممية التي تُمثّل أعلى تجمّع للإرادة السياسية الدولية، وحين يتكلم رجل من موقعه بهذه اللغة، فالمعنى الضمني واحد: الوضع أكثر خطورة مما تُصوّره الاجتماعات الفنية في بروكسل وجنيف وسان فرانسيسكو.
السؤال الذي يطرحه هذا التحذير ليس فنيّا بطبعه. إنه سؤال فلسفي وسياسي في جوهره: هل لا يزال الإنسان قادرا على ضبط ما صنعه؟ وإذا كانت الإجابة بالإيجاب، فمن يملك السلطة والأدوات والإرادة الكافية للقيام بذلك؟
سباق بلا خط نهاية
منذ نشر آلان تورينغ ورقته الشهيرة عام 1950 التي وضعت الأسس النظرية لما سنسمّيه لاحقا الذكاء الاصطناعي، مرّ العالم بسبعة عقود من التطور التقني متفاوت الوتيرة. لكن ما شهده العقد الأخير، وخاصة السنوات الخمس الأخيرة، أعاد رسم المعادلة بصورة جذرية: القدرات التقنية باتت تتضاعف بمعدلات تتحدى قدرة المجتمعات على الاستيعاب ناهيك عن التنظيم. نماذج اللغة الكبيرة وأنظمة توليد الصور والفيديو وأدوات الاستدلال الآلي المتقدمة ظهرت في سنوات وليس خلال عقود، وانتشرت في أيام لا في سنوات، ووصلت إلى مئات الملايين من المستخدمين قبل أن تُجري أي هيئة تنظيمية في العالم ولو دراسة منهجية واحدة لآثارها.
الذكاء الاصطناعي تجاوز الرقابة التقليدية من الإعلام والتعليم إلى الأمن مهددا قدرة المجتمعات على الاستيعاب والتنظيم
قانون الذكاء الاصطناعي الأوروبي، الذي احتاج إلى ما يزيد على ثلاث سنوات من النقاشات التشريعية قبل اعتماده، بات يُطبَّق على جيل من التقنيات كانت موجودة حين بدأت المفاوضات وتجاوزتها أجيال لاحقة بحلول وقت التصويت. هذه الهوّة الزمنية ليست مجرد إشكالية بيروقراطية، بل هي عيب بنيوي في الطريقة التي تعمل بها الأنظمة التشريعية الحديثة: تُبنى على افتراض أن التكنولوجيا تتطور بوتيرة يمكن متابعتها، وهو افتراض نسف نفسه بنفسه في السنوات الأخيرة.
المجالات التي تجاوز فيها الذكاء الاصطناعي منظومة الرقابة القائمة لم تعد تقتصر على إدارة إعلانات فيسبوك أو توصيات يوتيوب. ففي قطاع الإعلام، أصبح توليد المحتوى الزائف والتحقق منه أسرع بكثير من قدرة هيئات التدقيق على اكتشافه. وفي التعليم تنتشر أدوات الغش المدعومة بالذكاء الاصطناعي داخل فصول دراسية تفتقر إلى سياسات واضحة للتعامل معها. أما في مجال الأمن، فقد بات بإمكان جهات غير حكومية تطوير أسلحة تعتمد على الذكاء الاصطناعي بمستوى من التعقيد لم يكن متاحا إلا للدول القوية قبل سنوات قليلة.
“الابتكار بلا حواجز”، كان شعار وادي السيليكون لعقود، مُغلَّفا بخطاب التحرر التقني ودمقرطة المعرفة. لكن ما نراه اليوم يكشف أن البنية التقنية حين تُبنى خارج أي إطار مساءلة لا تنتج حرية أكثر، بل فوضى ذات توزيع غير متكافئ: الفوائد تتدفق نحو من يمتلك التقنية والبيانات ورأس المال، والمخاطر تتوزع على الجميع بالتساوي وأحيانا بالتفاوض.
الاقتصاد السياسي لهذه الفوضى يستحق التأمل. الشركات التقنية الكبرى، وهي في معظمها أميركية مع صعود صيني متسارع، لا تعارض التنظيم من حيث المبدأ في خطابها العلني. لكنها في الممارسة تُموّل جماعات الضغط التشريعية، وتُوظّف المسؤولين السابقين في الهيئات التنظيمية، وتضخّ في أذهان صانعي القرار أن أي تنظيم متسرّع سيُهدر التفوق التكنولوجي الغربي أمام المنافسة الصينية. هذه الحجة لها وزنها الجيوسياسي الحقيقي، لكنها في الوقت ذاته أداة ابتزاز ناعمة تعني في ترجمتها الصريحة: نظّمونا، لكن ليس بما يُكلفنا الكثيرَ.
الأطفال في قلب العاصفة
حين خصّص غوتيريش جزءا من تحذيره للحديث عن الأطفال وتأثير الذكاء الاصطناعي عليهم، لم يكن يُلقي محاضرة أخلاقية تقليدية عن أخطار الشاشات. كان يُشير إلى ظاهرة أكثر عمقا وأطول أمدا: إعادة هندسة الوعي الإنساني من جذوره في الأجيال التي تنشأ اليوم.
الطفل الذي يتفاعل مع عالمه الرقمي عبر خوارزميات تختار له المحتوى والمعلومات والصداقات ونماذج التفكير لا يعيش تجربة اختيار حقيقية. هو يعيش توهّم الاختيار داخل سقف مرسوم بدقة بواسطة أهداف تحسين مُبرمجة لتعظيم الانتباه والمشاركة لا لتعظيم النمو الإنساني أو البناء المعرفي. الدراسات المتراكمة على مدار العقد الماضي توثّق كيف أن التعرض المبكر لأنظمة التوصية يُقلّص تدريجياً هامش التشتت الإبداعي لدى الأطفال، ويُعوّدهم على الاستجابة الفورية بدلاً من التفكير المتأمّل، ويُضيّق تدريجيا دائرة المحتوى الذي يجد فيه الطفل المتعة إلى ما تُحدده الخوارزمية أنه الأكثر احتمالاً لإبقائه مرتبطا بالمنصة.
هذا ليس نظرية مؤامرة ولا ذعرا أخلاقيا مبالغا فيه. هو وصف دقيق لما تعترف به وثائق داخلية في شركات المنصات الكبرى أمام لجان الكونغرس والبرلمانات الأوروبية. الخوارزمية لا تكره الأطفال ولا تُريد لهم الأذى، لكنها لا تُبالي بنموهم أصلاً. هي تُبالي بمقياس وحيد: كم دقيقة يبقون؟
البعد الأخطر لهذه الظاهرة هو ما يمكن تسميته “مشكلة عقد الجيل”. الأطفال الذين ينشأون اليوم في بيئة رقمية شكّلها الذكاء الاصطناعي سيكونون في موضع صانعي القرار السياسي والتنظيمي بعد عشرين سنة. إذا تشكّلت أدوات تفكيرهم الأساسية في بيئة لا تُكافئ التعقيد والتأمل والتناقض الخلّاق، فكيف سيكتبون الدساتير التنظيمية وينقدون الأنظمة التقنية ويُقيّمون الأدلة المتضاربة؟
هذا ما يجعل الحوكمة التربوية الرقمية ضرورة عاجلة وليست ترفا سياسيا. ليس بمعنى حجب التقنية عن الأطفال، فهذا مستحيل ويُنتج إقصاء اجتماعيا تعليميا يمسّ الفئات الأفقر أولاً، بل بمعنى إخضاع التقنيات الموجّهة إلى الأطفال لمعايير تشغيلية مختلفة جذريا عن تلك الموجّهة إلى البالغين. أهداف التحسين للمنصات التي يستخدمها الأطفال يجب أن تتضمّن مؤشرات تنمية معرفية لا مؤشرات انتباه فحسب. وهذا لا يحدث من تلقاء نفسه لأنه يتعارض مع نموذج أعمال قائم على بيع دقائق الانتباه. يحدث فقط حين يفرضه القانون.
نحو دستور رقمي عالمي
لم يتفق العالم على ميثاق الأمم المتحدة عام 1945 لأن القادة فجأة أدركوا فضيلة التعاون الدولي. اتفقوا لأنهم خرجوا من حربين عالميتين في ثلاثة عقود ورأوا بأعينهم ثمن غياب منظومة تنظيم دولية. الصدمة كانت شرط الإجماع. الخوف المشترك كان الغراء الذي أمسك ما لم يكن من الممكن تصوّر إمساكه في الأحوال العادية.
السؤال الذي يستحق الطرح بصدق هو: هل يحتاج العالم إلى صدمة مماثلة قبل أن يتحرك نحو حوكمة فعلية للذكاء الاصطناعي؟ الإجابة الصادقة هي: ربما نعم، وهذا بالضبط ما يُقلق. الفارق بين فوضى الحرب وفوضى الذكاء الاصطناعي هو أن الثانية قد لا تكون مرئية ولا آنية ولا قاطعة بما يكفي لتولّد الإجماع السياسي اللازم. الضرر قد يتراكم تدريجيا وبصمت: هويات متآكلة، ديمقراطيات مُضعَفة بالمعلومات المضللة، أسواق عمل مُعادة هيكلتها بسرعة تتجاوز قدرة المجتمعات على التكيف، أسلحة ذكية في أيدي جهات غير حكومية.
الأطفال يعيشون داخل خوارزميات تُعيد تشكيل وعيهم، ما يهدد مستقبل التفكير النقدي وصياغة القوانين بعد عقود
فكرة ميثاق دولي للذكاء الاصطناعي يشبه في طموحه ميثاق الأمم المتحدة ليست خيالية في مضمونها لكنها عسيرة في تطبيقها لأسباب بنيوية عديدة.
العائق الأول هو غياب تعريف مشترك للخطر. في الحرب الباردة كان للأطراف اتفاق ضمني على أن الأسلحة النووية خطيرة بما يكفي لتستدعي معاهدات الحد من التسلح. لكن في الذكاء الاصطناعي، لا تتفق الأطراف حتى على تعريف ما هو خطر ومتى يصير كذلك. هل خطورة الذكاء الاصطناعي في التحيز في أنظمة التوظيف؟ في دمقرطة أسلحة الحرب السيبرانية؟ في تعديل الحمض النووي؟ في نماذج الاستدلال الفائق؟ كل طرف يُعرّف الخطر بما يتوافق مع مصالحه ومخاوفه الأيديولوجية، ومن دون تعريف مشترك، لا مفاوضة جدية.
العائق الثاني هو توزّع السلطة الحقيقية. في مفاوضات معاهدات الأسلحة النووية، كانت الدول هي من تمتلك السلاح. في الذكاء الاصطناعي، القوى الحقيقية مُوزّعة بين الدول والشركات الخاصة، وهذه الأخيرة لا تخضع للمفاوضات الدولية التقليدية. شركة ذات ثروة تتجاوز الناتج المحلي الإجمالي لدول متوسطة قادرة على تطوير ونشر أنظمة ذكاء اصطناعي بمعزل عن أي قرار حكومي. كيف تُبرم معاهدة مع طرف يمتلك القدرة التقنية لكنه ليس دولة ذات سيادة تُوقّع المعاهدات؟
العائق الثالث هو المنافسة الجيوسياسية التي تُحوّل الذكاء الاصطناعي إلى ساحة صراع لا طاولة تفاوض. الولايات المتحدة والصين تتنافسان على التفوق التقني بصورة تجعل أي تنسيق ثنائي جدي مُكلفا من الناحية الإستراتيجية. حين تُقنع واشنطن نفسها بأن التنظيم المتسرع سيمنح بكين أفضلية، وحين تتذرع بكين بالاستقلال التقني لرفض أي رقابة دولية، فالنتيجة هي فراغ تنظيمي في أكثر الميادين حساسية.
لكن غياب الأسهل لا يُلغي الضرورة. يمكن تصوّر مسار أكثر واقعية يبدأ من التنسيق القطاعي لا من الميثاق الشامل: معايير مشتركة للذكاء الاصطناعي في التعليم أولاً، نظرا لوضوح المصلحة المشتركة. ثم في الرعاية الصحية حيث تتقاطع المصالح البحثية. ثم تدريجيا نحو المجالات الأشد حساسية. هذا المنطق التراكمي القطاعي هو ما أتاح بناء الكثير من المؤسسات الدولية التي بدأت متواضعة ثم توسّعت: الوكالة الدولية للطاقة الذرية لم تُولد كاملة من المفاوضة الشاملة بل نمت تدريجيا مع اتساع الإجماع حول نطاق عملها.
من يكتب القواعد؟
النقاش حول حوكمة الذكاء الاصطناعي يُركّز عادةً على ما يجب تنظيمه: ما هي التطبيقات المحظورة؟ وما هي المعايير الواجبة؟ وما هي التعريفات المعتمدة؟ لكنْ ثمة سؤال سابق يُشكّل بشكل خفيّ كل هذه الإجابات: من يمتلك السلطة المشروعة لوضع هذه القواعد؟
غياب تعريف مشترك للخطر وتوزع السلطة بين الدول والشركات يجعلان الحوكمة الدولية للذكاء الاصطناعي مهمة عسيرة
الشركات التقنية الكبرى تُجيب ضمنيا: نحن. من يبني التقنية يعرف حدودها ومخاطرها أكثر من غيره، ويضع معايير الاستخدام الآمن. هذه الحجة ليست خالية من الصحة، لكنها تفترض أن مصالح الشركات وصلاح الإنسانية متّسقان بطبعهما، وهو افتراض يُكذّبه التاريخ الحديث للصناعة ذاتها في قضايا تجمع البيانات والمحتوى المضر والتلاعب بالرأي العام.
الدول الكبرى تُجيب: نحن. الدولة الوطنية، حتى في عصر العولمة، تبقى الحاضنة السيادية للمواطن وحقوقه، ومن ثم يعود إليها القرار النهائي. لكن هذه الإجابة تصطدم بحقيقة أن الذكاء الاصطناعي لا يعرف الحدود الوطنية: نموذج تدريب في سنغافورة يُنشر في البرازيل ويُستخدم في السنغال.
المجتمع المدني والأكاديمي يُجيبان: نحن، أو على الأقل يجب أن نكون جزءا من الإجابة. الخبرة التقنية والقانونية والأخلاقية متوفرة خارج الشركات والحكومات، ونماذج الحوكمة التي تُقصي هذه الأصوات تميل إلى إنتاج أطر تخدم المصالح الضيقة لمن هيمن على صياغتها.
الإجابة الأكثر صدقا هي أن أيّا من هؤلاء لا يكفي وحده، وأن المسألة في جوهرها مسألة تمثيل: من يجلس إلى الطاولة حين تُكتب القواعد، ومن يُمثّل في عملية الصياغة مصالح من لا يمتلكون ثروة أو نفوذا تقنيا أو صوتا دبلوماسيّا؟ دول الجنوب العالمي التي ستتحمّل جزءا كبيرا من عبء إعادة هيكلة سوق العمل بفعل الأتمتة غائبة في معظمها عن طاولات الحوكمة الرئيسية. الجماعات التي يُعيد الذكاء الاصطناعي إنتاج التحيز ضدها في أنظمة التوظيف والقضاء والائتمان ليس لها صوت في المعايير التقنية للأنظمة التي تتأثر بها.
الحوكمة التي تُصاغ بلا تمثيل حقيقي لمن سيتحمّل الكلفة ستكون، مهما كانت محكمة في هندستها القانونية، شكلاً آخر من أشكال الهيمنة.
المعركة الحقيقية ليست إيقاف التقنية بل تحديد القيم التي يجب أن تُضخّمها الأنظمة الذكية في حياة البشر
في خضم النقاشات التقنية والقانونية والسياسية، ثمة حقيقة بسيطة تغيب عن الجميع: الذكاء الاصطناعي لم يهبط من الفضاء الخارجي كقوة غريبة معادية للإنسانية. هو مِن صُنع الإنسان، ومُدرَّب على بياناته، ومُصمَّم لخدمة أهدافه. التحيزات التي تُعيدها الخوارزميات موجودة أصلاً في النصوص والصور والبيانات التي بنيت عليها. الميل إلى تعظيم الانتباه على حساب الجودة هو انعكاس لما يُثير فعلاً انتباه البشر حين لا توجد حواجز.
هذا لا يعني أن التنظيم لا جدوى منه، بل يعني عكس ذلك: التنظيم هو في جوهره سؤال الإنسانية عن القيم التي تريد أن تُترجَم في الأنظمة التي تبنيها. الأنظمة التقنية لا تمتلك قيما مستقلة، بل تُضخّم وتُعظّم ما يُدمج فيها. إذا دُمج فيها هدف تعظيم الربح وحده، ستُعظّم الربح حتى على حساب الضرر. إذا دُمجت فيها معايير الجودة المعرفية والسلامة الاجتماعية، ستميل إلى إنتاجها.
هذا هو الرهان الحقيقي في معركة الحوكمة: ليس إيقاف التقنية ولا تقييد الابتكار بالمعنى الضيق، بل تحديد ما الذي نريد أن تُضخّمه وتُعظّمه هذه التقنية في حياة البشر. وهذا قرار لا يستطيع أن يتخذه مهندس الخوارزميات وحده في غرفة مضاءة بشاشات الكمبيوترات، بل يستلزم حوارا اجتماعيا وسياسيا وأخلاقيا واسعا يستوعب التنوع الحقيقي للإنسانية في مصالحها ومخاوفها وطموحاتها.
التوقيت الذي تُطرح فيه أسئلة الحوكمة يُحدد نوع الإجابات الممكنة. حين أدرك البشر خطورة الأسلحة الكيميائية بعد أن استُخدمت في الحرب العالمية الأولى، جاءت المعاهدة الدولية لحظرها بعد سنوات من الضرر الفعلي. حين أدركوا خطر الانتشار النووي في الخمسينات، أنتجوا معاهدة عدم الانتشار بعد أن انتشر السلاح بالفعل في أيدي قوى متعددة. نمط التأخر متكرر ومُكلف.
الفارق الذي يجعل الذكاء الاصطناعي اختباراً بالغ الخصوصية هو أن بعض الأضرار المحتملة لا يمكن التراجع عنها: إذا أصبحت الأنظمة الذكية قادرة على إعادة هندسة نفسها بمعدلات تتجاوز فهم مصمّميها، فإن نافذة الضبط الإنساني ستضيق حتى تنغلق. لا أحد يعرف بيقين متى تبدأ هذه المرحلة ولا ما هي دقيقة التحول. لكن من يقرأون أدبيات الذكاء الاصطناعي بجدية يُدركون أن هذه إمكانية يجب أن تُبنى الأطر التنظيمية استباقا لها لا ردا عليها.
الحوكمة الجيدة لا تُوقف الابتكار، بل توجّهه. التطور الطبي لم يتوقف بسبب معايير التجارب السريرية، بل صار أكثر مصداقية وأمانا بوجودها. الطيران لم يتراجع بسبب معايير السلامة، بل ازدهر في ظلها. الذكاء الاصطناعي يمكن أن يتبع هذا النمط إذا توفرت الإرادة السياسية والكفاءة المؤسسية والتمثيل العادل.
ما يقوله غوتيريش، وما يُردّده معه العديد من العقول التي تفكّر جديا في مستقبل التقنية، هو أن اللحظة الراهنة ليست أزمة بل فرصة؛ فرصة لأن يختار البشر بصدق ووعي ما يريدون أن تفعله هذه التقنية في حياتهم وحياة أطفالهم وحياة من سيأتون بعدهم. هذا الاختيار لا يحتمل التأجيل إلى أجل غير مسمى.
حين يسبق العقلُ القانونَ، يصبح المستقبل رهينةً لمن يكتب الشيفرة لا لمن يكتب الدساتير. ولا يزال أمام من يكتبون الدساتير وقت، وإن كان يتآكل بسرعة لم يعهدها صانعو القوانين من قبل.
