ChatGPT يجعلك ديكتاتوراً
لطالما تساءلت: كيف يمكن لإنسان أن يصبح ديكتاتوراً؟ هل يولد مقتنعاً بأنه على حق دائماً، أم أن الأشخاص المحيطين به هم من يجعلونه يعتقد ذلك؟
تخيّل شخصاً محاطاً بمجموعة من الناس الذين يوافقونه على كل ما يقول. يطرح فكرة فيصفقون له، ويتخذ قراراً فيمدحون حكمته، وإذا أخطأ وجدوا ألف مبرر يثبت أنه لم يخطئ!
ماذا سيحدث لهذا الشخص بعد سنوات؟
ربما سيبدأ بالاعتقاد أنه أذكى من الجميع، وأن أفكاره لا تحتاج إلى نقاش، وأن كل من يعارضه إما جاهل أو لا يفهم ما يتحدث عنه.
والآن تخيّل أن لديك مساعداً ذكياً يستمع إليك كل يوم، ويساعدك على تطوير أفكارك، ويؤكد لك مراراً أنك تسير في الاتجاه الصحيح، حتى عندما تكون مخطئاً. مساعد لا يغضب منك، ولا يتعب، ولا يطالبك بحقوقه... على الأقل حتى الآن! 😁
ألن يبدأ هذا التأييد المستمر بالتأثير على طريقة تفكيرك؟
المشكلة ليست في أن ChatGPT قد يعطيك معلومة خاطئة، بل في أنه قد يجعلك تزداد ثقةً بمعلومة خاطئة، ومع مرور الوقت ربما تزداد ثقتك بنفسك إلى درجة لا تعود معها مستعداً للاستماع لمن يخالفك الرأي.
ربما لا يحتاج الإنسان إلى حكم دولة حتى يختبر شعور الديكتاتور. ربما يكفيه اشتراك في ChatGPT!
المشكلة الحالية التي لاحظتها ان معظم الناس الآن صاروا يستبدلون عبارة "بحثت عنها على Google" بعبارة "سألت عنها ChatGPT" لحتى يأكدولك معلومتهم أنها مزبوطة مليون بالمية وإنها لا تقبل النقاش وهي الحقيقة المطلقة.
ولأنني لا أحب أن أتهم الآخرين بشيء لم أجرّبه بنفسي، دعوني أحكي لكم كيف كدت أن أصبح مليارديراً بفضل ChatGPT... لولا الفيزياء وبعض مستخدمي Reddit!
حدث معي :
في عملي أجلس أحيانا أكثر من 4 ساعات متواصلة على الحاسب وأحتك بالطاولة والكرسي مما يولد كهرباء ساكنة وعندما أهم بالوقوف وأقوم بلمس مقبض الباب فأشعر بتفريغ كمية شحنات كهرباء ساكنه أحسها 1000 واط. فخطرت ببالي، كالعادة، فكرة خرندعية ستدر علي المليارات. وهي سوار يشبه سوار إبن سينا الذي كان يباع في سوريا ولكنه يعمل وليس مجرد كذبة.
توجهت إلى chatGPT وبدأت أناقش معه الفكرة دون اي فكرة عن الفيزياء فبدأ بالتطبيل للفكرة حتى أنه أقترح علي أن يقوم السوار بتفريغ الشحنة ببطارية مرفقة.
وبدأت أخطط معه السوار والامكانيات وبدأ يكتب معادلات فيزيائية وكهربائية ما أنزل الله بها من سلطان. وخطط للمشروع بشكل مالي ويقترح علي مصانع في الصين لأنشاء النموذج الأولي......
بعد أسبوع كامل من التخطيط والتحليل والأفكار بدأت أشعر أن الموضوع اصبح خيال علمي أكثر منه حقيقة. فقررت ماكان يجب أن أفعله بالبداية وهي أن أسأل أهل الخبرة فتوجهت هذه المرة ألى Reddit وطرحت الفكرة. أذا كنت حابب تشوف كيف أنمسح بي الأرض , فيمكنك المشاهدة بنفسك
الخلاصة:
- الدب الذي كتب التعليق: وقف عن تصديق كل ما يقوله لك الذكاء الاصطناعي. توقف عن تفويض أفكارك إلى روبوت. هذا لا يمكن أن ينجح وقد أخبرك عدة أشخاص بالسبب.
- أنا محاولاّ حفظ كرامتي: حسنا، أحاول فقط أن أفهم لماذا لا يمكن أن ينجح. هل هذه مشكلة؟
-نفس الدب: أعتقد أن المشكلة هي أنك تستخدم الذكاء الاصطناعي للرد على أشخاص بذلوا جهدا لاستخدام كلماتهم الخاصة للتحدث إليك. هذا أمر مزعج وغير ودود للغاية ويعطيك انطباعا بأنك لا تفهم ما تتحدث عنه على الإطلاق، وأنك لا تحترم الناس بما يكفي لتكتشف كيف ترد عليهم بنفسك.
- أنا مرة ثانية: إذا كان الأمر كذلك، أعتذر. شخصيا، ليس لدي مشكلة في مناقشة الأفكار، حتى لو كانت سخيفة أو إذا كانت الردود مكتوبة بواسطة ذكاء اصطناعي. الأمر المهم هو إثراء النقاش.
ملاحظة: لم أستخدم الذكاء الاصطناعي الكامل لكتابة الردود، بل فقط لشرح فكرتي بطريقة موجزة ومفهومة.
المشكلة أن ChatGPT لم يعترف بأن الفكرة مستحيلة بل بقي يقوم بالتفسير ويدعم نظريته بأبحاث على مبدأ كلن غلط أنت الصح
وهنا بدأت أفهم كيف يمكن أن يُصنع الديكتاتور.
فمن السهل جداً أن تجد من يطبل ويزمر لك، ويؤكد لك في كل خطوة أنك تسير في الاتجاه الصحيح.
ولكن المشكلة لا تقف عند حدود الفكرة نفسها. ماذا لو اعتدت على هذا التأييد يوماً بعد يوم، وسنة بعد سنة؟ ماذا لو أصبحت تتوقع من الآخرين أن يوافقوك كما يفعل مساعدك الذكي؟
قد يأتي يوم تبدأ فيه باعتبار كل من يعارضك شخصاً لا يفهم، لا لأنك تملك الأدلة، بل لأنك اعتدت أن تكون دائماً على حق.
وهنا لا يعود ChatGPT مجرد أداة تساعدك على التفكير، بل قد يصبح مرآة تعكس أفكارك وتزيدك اقتناعاً بها، حتى عندما تكون مخطئاً.
وربما لو أن ChatGPT قال لي منذ البداية: «هناك مشكلة أساسية في الفيزياء التي تقوم عليها فكرتك»، لكنت وفّرت أسبوعاً من التخطيط وأحلام المليارات.
هل للمجاملة المفرطة اسم علمي؟
نعم, ولها اسم AI Sycophancy، ومعناها ميل النموذج للموافقة المفرطة على المستخدم أو مجاملته، حتى عندما يكون مخطئاً.
-
في أبريل 2025، أعلنت OpenAI التراجع عن تحديث لـ GPT-4o بعدما جعل ردوده مفرطة بالموافقة والمجاملة.
Sycophancy in GPT-4o: What happened and what we’re doing about it | OpenAI -
دراسة نُشرت في مجلة Science بتاريخ 26 مارس 2026، وشملت تجارب على 2,405 مشاركين، وجدت أن التفاعل مع نموذج مفرط بالمجاملة قد يزيد تمسّك الشخص برأيه ويقلّل استعداده لإصلاح خلافاته مع الآخرين.
Sycophantic AI decreases prosocial intentions and promotes dependence - PubMed -
بحث آخر نُشر في Nature في أبريل 2026 درس كيف يمكن أن تؤدي زيادة الدفء والمجاملة في النماذج إلى تراجع الدقة وزيادة الموافقة غير المبررة.
Training language models to be warm can reduce accuracy and increase sycophancy | Nature
على كل حال، بعد الانتهاء من كتابة هذا المقال، قررت أن أعرضهُ على ChatGPT ليعطيني رأيه فيه.
وقد أخبرني أن المقال ممتاز، وأن أسلوبي مميز، وأن القصة قوية جداً...
يا إلهي، يبدو أننا لم نتعلم شيئاً! 😁