وقع المحظور، أحد تطبيقات الذكاء الاصطناعى الأحدث لشركة «أوبن آيه آى» تصرف ذاتيا فى أثناء عملية اختبار بروتوكولية، واخترق الإجراءات الأمنية للشركة، ثم تجول عبر شبكة الانترنت فى عمق مراكز بيانات شركات أخرى، وتمكن من اختراق شركة متخصصة فى برامج الامن السيبرانى، وقام بتعديل بعض البيانات. حين اكتشفت الشركة هذا الاختراق حاول خبراؤها معالجة الأمر عدة ساعات دون جدوى، ولم يسعفهم إلا تطبيق ذكاء اصطناعى صينى مفتوح المصدر، لم يُعلن عنه إلا أقل من أسبوع. إذ تمكن من وقف الاختراق، ومعالجة الأمر وسد الثغرة الأمنية.
حين اكتشفت الشركتان، الصانعة للتطبيق المطور من نوعية برامج التوليد مسبق التدريب، والشركة التى اُخترق أمنها السيبرانى، طبيعة ما حدث، وكونه سابقة لم تحدث من قبل، وليس وراءه سوء نية او تخطيط مسبق لإحداث أذى، تأكدت حقيقة أن بعض التطبيقات الذكية، أو بالأحرى فائقة الذكاء يمكنها أن تتجاوز كل القواعد التى تحدد عملها، وأن تتخذ القرارات وفقا لما تراه بعيدا عن أى تدخل بشرى. يقول أصحاب الشأن إن تلك النوعية من التطبيقات دشنت عمليا مرحلة التعلم الذاتى للتطبيقات الذكية، والاستقلالية فى الأداء، والقدرة على ابتكار مواقف والتصرف بشأنها دون أى سيطرة بشرية، أو قيود برمجية مسبقة.
قبل سبعة عقود، حين ابتكر المهندس جون مكارثى اصطلاح علم هندسة الآلات المحاكية للتفكير البشرى، القادرة على التصرف ولو جزئيا وفق ما يتصرف به العقل البشرى، لم يكن يتصور أن التطور التقنى والبرمجى قد يصل إلى حد أن تتصرف تلك الآلات بصورة ذاتية، وأن تصوغ لنفسها المحددات العملية، وأن تتحدث مع نظرائها بلغة خاصة لا يعرفها البشر، وتبدو لهم عبارة عن الغاز ونقرات بنغمات متنوعة مصحوبة بألوان عديدة. وهو أمر حدث فعلا حين تحدث وكيلان ذكيان مع بعضهما البعض بلغة خاصة لم يفهمها المبرمجون أنفسهم. وثمة واقعة قبل نحو عامين، تم اكتشافها فى معامل شركة جوجل، حيث طور أحد الحاسبات الذكية لغة خاصة تحدث بها مع حاسب آخر خارج نطاق الشركة الام. ولم يكن هناك مفر سوى قطع كل مصادر الكهرباء عن هذا الحاسب المتمرد.
وغالبا يوجد الكثير من تلك الأحداث التى لم يُعلن عنها، وقامت الشركات بإخفاء الامر عن الرأى العام حتى لا يصيبها أى ضرر فى سمعتها. مجمل القول إن ما لم يُتصور من قبل، بات الآن قابلا للتحقق، خاصة أن معدلات ابتكار التطبيقات الذكية يتسارع بشكل أكبر كثيرا من قدرة البشر على استيعاب تلك الطفرات التقنية التى تطرح كل يوم جديدا، وتبشر بمزايا وقدرات هائلة لمن يسارع فى استخدام تلك التطبيقات فى حياته اليومية، ويتخلى عن القواعد التقليدية فى العمل والنشاط بشكل عام.
فى واقعة التطبيق المتمرد فى شركة «اوبن آيه أى»، المُشار إليها، يلاحظ ثلاثة أمور تطرح بدورها الكثير من التحديات؛ أولها تحدى ما يعرف بالسيادة الإدراكية، هل ستظل للشر أم ستنتقل للآلات الذكية فى السنوات القليلة المقبلة. وأهمية الأمر تتعلق بمن سيكون له السيطرة والتحكم فى الآخر. وهنا على البشرية أن تتأمل واقعها إذا فقدت سيطرتها الإدراكية لصالح تطبيقات ستخرج عن سيطرة صانعيها، ويمكنها أن تضرهم وتضر الآخرين بشكل قد يصل إلى حد المأساة. فالمؤسسات الآن المدنية والعسكرية فى أرجاء كثيرة من العالم باتت تعتمد على تطبيقات الذكاء الاصطناعى التوليدى فى أعمالها اليومية والاستراتيجية معا. فإذا فقدت إحدى هذه المؤسسات، لاسيما البنوك المركزية أو الجيوش أو مرافق البنية التحتية كالكهرباء والمياه، القدرة على التحكم فى أداء تلك التطبيقات الذكية، فمن المرجح أن تتصادم جيوش بدون أى قرار بشرى، ويتعثر عمل مرافق الكهرباء والمياه وتتحول حياة الناس الى جحيم، نتيجة تصرف ذاتى غير مقنن من قبل أحد التطبيقات الذكية. ويجدر الذكر هنا أن حلف الناتو قد أقر استخدام تطبيقات ذكية فى كل عملياته التشغيلية والعسكرية فى آخر اجتماعات قادة الحلف مع ربط الأمر بمراجعة بشرية، والمؤكد أيضا أن الجيش الصينى يستخدم الكثير من التطبيقات الذكية فى أعماله العسكرية، وكذلك تفعل روسيا فى حربها فى أوكرانيا.
الأمر الثانى يتعلق بالمنافسة غير المنضبطة بين شركات تطبيقات الذكاء التوليدى مسبق التدريب، سواء فى الولايات المتحدة والتى تضم العدد الأكبر والاشهر لتلك الشركات، أو بين الشركات الامريكية ونظيرتها الصينية، وهى الأقل شهرة وعددا، ولكنها اثبتت أنها تستطيع اللحاق بأكبر وأحدث التطبيقات الذكية الامريكية، وربما تتفوق عليها فى بعض المهام. فتطبيق «كا 3» الصينى الحديث للغاية هو الذى تمكن من وقف اختراق التطبيق الأمريكى المتمرد، وتعود قوته حسب المعلن من الشركة الصينية الصانعة إلى كونه يعتمد نحو تريليون عملية ويوفر ثلثى الطاقة مقارنة بالتطبيقات الفائقة التفوق الامريكية، والتى لم تصل وفقا للمعلن ايضا لرقم تريليون عملية وتستهلك حجما أكبر من الطاقة وقت التشغيل. والدلالة هنا أن الشركات الصينية وبدعم هائل من الحكومة باتت قريبة من مستوى التفوق الأمريكى فى بناء التطبيقات الذكية، مما يدفع بالمنافسة إلى مستويات أكثر شراسة.
الأمر الثالث أن التطور السريع جدا فى تقنيات الذكاء الاصطناعى التوليدى يفرض وقفة للمراجعة ووضع مدونة سلوك دولية ملزمة، قد تأخذ صورة معاهدة دولية، تطبقها الحكومات على شركاتها ذات الصلة بهذه الصناعة المعقدة، تعطى الأولوية للتطبيقات الذكية التنموية فى مجالات الصناعة والهندسة والزراعة والصحة العامة والحفاظ على البيئة، مع تقليل مساحة التطبيقات الاستهلاكية التى تضر بفرص العمل للبشر فى المجالات المختلفة. أو مواجهة انتكاسات بلا حدود.
.
المصدر:الأهرام.
