الخطر الحقيقي للذكاء الاصطناعي ليس الذكاء المفرط ، إنه الغباء البشري

إن الخطر الحقيقي للذكاء الاصطناعي ليس الذكاء المفرط ، إنه الغباء البشري

ريتا الخوري / هيئة الأندرويد

لا يزال الذكاء الاصطناعي هو الكلمة الطنانة الدائمة في عام 2023 ، مع ChatGPT و Bard وما شابه ذلك من عناوين الأخبار ، وفي بعض الأحيان ، يعمل على تشغيل حالة استخدام جديدة لامعة قد تحسن بعض جوانب حياتنا قليلاً أيضًا.

لحسن الحظ ، لم يسيطر الذكاء الاصطناعي على العالم. في الواقع ، ربما يكون التهديد الذي يلوح في الأفق من استيلاء سريع للذكاء الاصطناعي قد تلاشى قليلاً ، على الأقل في الوقت الحالي. بدلاً من ذلك ، أصبحت قلقًا بشكل متزايد من أن التهديد الأكبر يأتي من حقيقة أن البشر لا يفهمون الذكاء الاصطناعي جيدًا على الإطلاق. سواء كنا نطرح أسئلة غير متوقعة أو نجد طريقة للتخلص من أعباء عملنا ، فهناك خطر يتمثل في أننا نستبدل تفكيرنا النقدي ببديل لم يتم تجهيزه بعد.

ما هو الذكاء الاصطناعي حقًا (وما هو ليس كذلك)

تكمن المشكلة في أن الذكاء الاصطناعي ليس ذكيًا حقًا ، ليس بعد على أي حال ، إنهم جيدون جدًا في خداعنا للاعتقاد بأنهم كذلك. الدليل موجود في الاسم ChatGPT (بت GPT مهم أيضًا). ولكن سواء كانت Bard أو Bing أو ما شابه ذلك ، فهذه نماذج لغوية كبيرة (LLMs) تتخصص أساسًا في إنشاء نص يشبه الإنسان. ما يعنيه ذلك ، على مستوى خام للغاية ، هو أنهم جيدون للغاية في النمذجة الإحصائية للكلمة المحتملة التالية (أو الرمز المميز) التي تظهر في الجملة. بفضل مساحات بيانات التدريب ، فإن نفس النمذجة الإحصائية ليست جيدة فقط في كتابة الجمل ؛ يصبح أكثر إبداعًا وإفادة.

ما لا تقدمه هذه النماذج بالتأكيد ، على الرغم من ردودها المثيرة للإعجاب في كثير من الأحيان ، هو ذكاء للأغراض العامة (على الرغم من أن الذكاء الاصطناعي العام هو الهدف). في الواقع ، لا يوجد تحليل أو تفكير نقدي عندما ينفث الذكاء الاصطناعي سونيتة أو يولد كودًا عمليًا. حقيقة أن LLM تبدو جيدة جدًا في مجموعة واسعة من الأشياء كان حادثًا سعيدًا تم اكتشافه في وقت قريب من GPT-2. مع مجموعات البيانات الأكثر ضخامة اليوم ، أصبحت النماذج أفضل في استحضار استجابات دقيقة من نطاق أوسع من المدخلات.

نموذج لغة كبير متخصص في إنشاء نص يشبه الإنسان. الإجابات الصحيحة هي مكافأة.

لتوضيح سبب ذلك ، ضع في اعتبارك ما تفعله LLM عندما تطلب منها تسمية الكواكب في النظام الشمسي. إنه لا يمشط ذاكرته بحثًا عن إجابة ؛ لا يوجد إدخال يشبه قاعدة البيانات للبحث عنه. بل يأخذ رموز الإدخال الخاصة بك وينتج سلسلة نصية محتملة إحصائيًا استنادًا إلى بيانات التدريب الخاصة به. بعبارة أخرى ، كلما رأى النموذج المريخ والأرض وزحل في جمل حول الكواكب في كثير من الأحيان أثناء التدريب ، زادت احتمالية إنشاء هذه الكلمات عندما يواجه نقاشًا مشابهًا في المستقبل. إنها محاكاة للمعرفة الحقيقية ، لكنها ليست بنفس الطريقة التي نتعلم بها أنت أو أنا. وبالمثل ، إذا كانت بيانات التدريب تتكون في الغالب من مقالات قبل عام 2006 ، فقد يصر LLM الخاص بك بشكل غير صحيح على أن بلوتو هو كوكب أيضًا (آسف ، بلوتو).

هذا الوضع معقد إلى حد ما بواسطة Bard و Bing ، اللذان يمكنهما الوصول إلى البيانات من الإنترنت. لكن المبدأ التوجيهي لا يزال كما هو ، فقد تم تصميم LLM بشكل أساسي لإنشاء مخرجات نصية قابلة للقراءة والتي قد يعطيها البشر إبهامًا. يعد إنتاج إجابة صحيحة بمثابة مكافأة ، والتي يمكن وقد تم تحفيزها من خلال التدريب التعزيزي ، ولكن في أي مرحلة "تفكر" في الإجابة الصحيحة على استفسارك. ومن ثم فإن جميع أخطائهم الشائعة وعدم قدرتهم على الرد على بعض الأسئلة الأساسية مثل "ما هو الوقت؟"

الرياضيات هي مثال جيد آخر للمساعدة في فهم هذه النقطة. LLM لا تحسب مثل الكمبيوتر التقليدي ؛ لا يوجد معالج لطحن الأرقام يضمن الإجابة الصحيحة. لا يعمل مثل دماغنا أيضًا. بدلاً من ذلك ، تؤدي LLMs الرياضيات في الأساس بنفس الطريقة التي تولد بها النص ، وتخرج الرمز المميز التالي الأكثر احتمالية إحصائيًا ، لكن هذا ليس هو نفسه حساب الإجابة فعليًا. ومع ذلك ، فإن الوحي الرائع هو أنه كلما زاد عدد البيانات التي تقدمها LLM ، أصبح من الأفضل محاكاة كيفية القيام بالرياضيات (من بين أشياء أخرى). هذا هو السبب في أن GPT-3 و 4 أفضل بمقادير من GPT-2 في العمليات الحسابية البسيطة المكونة من رقمين وثلاثة أرقام وتسجل درجات أعلى بكثير في مجموعة متنوعة من الاختبارات. لا علاقة لذلك بكونهم أكثر قدرة من منظور طمس البيانات التقليدي ، بل أنهم تلقوا تدريباً على المزيد من البيانات.

ستزداد قوة الذكاء الاصطناعي ، لكنها في الوقت الحالي بعيدة كل البعد عن حل المشكلات للأغراض العامة.

إنه نفس الشيء بالنسبة لكتابة المقالات ، وإنشاء الكود ، وجميع إمكانيات LLM الأخرى التي تبدو معجزة. هناك محاكاة للجهد والتفكير ، لكن النتائج لا تزال قائمة على الاحتمالات النصية. ولهذا السبب سترى في كثير من الأحيان أنماطًا وأمثلة متكررة ، بالإضافة إلى أخطاء واقعية. ومع ذلك ، فإن هذه القدرة على التعلم "في السياق" تجعل من LLM قوية بشكل لا يصدق وقابلة للتكيف مع مجموعة واسعة من حالات الاستخدام.

ومع ذلك ، إذا كنت تريد ذكاءً اصطناعيًا قويًا وقادرًا للغاية للرياضيات أو الفيزياء أو التجارب العلمية الأخرى ، فعليك تدريب النموذج بشكل مختلف تمامًا عن نموذج اللغة الكبير. سيعرف أولئك المطلعون على المشهد الأوسع أن OpenAI تقدم نماذج مختلفة ، مثل DALL.E لتوليد الصور و Whisper لترجمة الصوت إلى نص. لذا ، في حين أن ChatGPT4 و 5 في النهاية سيستمران بلا شك في تحسين دقة ونطاق الأشياء التي يمكنهم القيام بها ، إلا أنهم لا يزالون نماذج لغوية في الصميم.

دعونا نتوقف عن طرح مثل هذه الأسئلة الغبية على الذكاء الاصطناعي

روبرت تريجز / سلطة أندرويد

لذا عد إلى العنوان الرئيسي ؛ نحتاج حقًا إلى فهم أفضل لنقاط القوة والعثرات هذه قبل تعيين الذكاء الاصطناعي للمهمة.

نأمل أن يكون من الواضح أنه سيكون من الحماقة أن تطلب من ذكاء اصطناعي كتابة مقرراتك العلمية. من غير المحتمل أن نفهم المعادلات بشكل صحيح وحتى ذلك الحين سينتج عنها استجابة معادلة. وسيكون من غير المسؤول أخذ المشورة المالية من أحد. ولكن حتى الأسئلة التي تبدو مبتذلة يمكن أن تكون مشكلة أيضًا. في حين أنه قد يكون من الممتع استخلاص التأمل في الموضوعات المثيرة للجدل أو خداعها في إجابة خاطئة ، فإن مشاركة ما يرقى إلى سلسلة نصية احتمالية لأن أي شيء قريب من رأي حقيقي يتجاوز الجهل.

دعونا لا نتخلى عن تفكيرنا النقدي إلى متنبئ نصي راقي.

إذا طلبت من chatbot تفضيلًا أو إجراء مقارنة ، فهو لا يستمد من أفكاره الخاصة ، أو قبوًا كبيرًا من المعرفة البشرية ، أو حتى رأيًا جماعيًا مخفيًا داخل مجموعة بياناته. بدلاً من ذلك ، يقوم بنمذجة إحصائية لما تحدده ليكون الاستجابة النصية المثلى التي يمكن أن تنتجها لاستعلامك ، لكن هذا يختلف تمامًا عن التفكير في إجابة حقيقية. ولهذا السبب يتم تجريب هذه النماذج بشكل مشترك لتصفية الاستعلامات والردود التي لم يتم تصميم النموذج من أجلها حقًا. حتى لو استطعت استفزاز مثل هذا الرد ، فمن شبه المؤكد أنه يجب تجاهله.

باختصار ، لا ينبغي أن نخلط بين الاستجابة الشبيهة بالإنسان والفكر الشبيه بالإنسان. هذا لا يقلل من تأثير محاكاة الذكاء الاصطناعي ومجموعة كبيرة من حالات الاستخدام الناشئة التي تعد مفيدة حقًا لها. ولكن في النهاية ، هناك العديد من موضوعات الذكاء الاصطناعي الأكثر إثارة ووجودية للتركيز عليها أكثر من تفضيلاتهم في سلاسل الوجبات السريعة والعلامات التجارية المصممة. دعونا لا نتخلى عن تفكيرنا النقدي إلى متنبئ نصي راقي.