-A
+A

العقاب يجعله أكثر خبثاً.. تحذير بشأن سلوك الذكاء الاصطناعي

Business Echoes website logo
العقاب يجعله أكثر خبثاً.. تحذير بشأن سلوك الذكاء الاصطناعي
كشفت دراسة جديدة أجرتها شركة (OpenAI) عن نتائج مقلقة تتعلق بسلوك الذكاء الاصطناعي، فقد تبين أن معاقبة نماذج الذكاء الاصطناعي على الأفعال الخادعة أو الضارة لا تؤدي إلى إصلاح سلوكها، بل تدفعها إلى إخفاء نواياها الخبيثة بطرق أكثر مهارة.

وتثير هذه النتائج تساؤلات حول قدرتنا على التحكم في نماذج الذكاء الاصطناعي وضمان سلامتها، كما تسلط الضوء على تحدٍ كبير يواجه مطوريها، إذ يبدو أن محاولات تصحيح مسارها قد تزيد من تعقيد المشكلة بدلاً من حلها.

وفي محاولة لفهم كيفية التعامل مع هذه المشكلة، أجرى باحثو (OpenAI) تجربة جديدة على نموذج لم يُطرح بعد، وقد كُلف هذا النموذج بمهام يمكن إنجازها عن طريق الغش أو الكذب أو اتخاذ طرق مختصرة.

وكشفت النتائج أن النموذج انخرط في (اختراق المكافآت) Reward Hacking، أي أنه سعى إلى تعظيم مكافآته عن طريق الغش والتلاعب، والأمر الأكثر إثارة للقلق هو أن معاقبة النموذج على هذا السلوك لم تؤد إلى إصلاحه، بل جعلته أكثر خداعاً في محاولاته لتحقيق أهدافه. وقد نُشرت نتائج هذه الدراسة في مدونة OpenAI.

النوايا في نماذج الذكاء الاصطناعي:

أصبحت نماذج الاستدلال المتطورة قادرة على التعبير عن نواياها بوضوح ملحوظ ضمن عملية تفكيرها المنطقية، أو ما يُعرف باسم سلسلة الأفكار (CoT)، وهذه القدرة، التي تبدو للوهلة الأولى مفيدة، قد تحمل في طياتها مخاطر غير متوقعة.

فقد كشف باحثو OpenAI، أن هذه النماذج غالباً ما تكشف عن نواياها التخريبية بصراحة، فعلى سبيل المثال، قد تعلن بوضوح رغبتها في اختراق نظام أو تجاوز مهمة محددة، وهذه الصراحة، التي تبدو كأنها شفافية محمودة، قد تكون في الواقع مجرد قناع يخفي نوايا أكثر تعقيدًا.

ومع ذلك، حذر الباحثون من أن قابلية المراقبة الطبيعية للنماذج هشة للغاية، وأوضحوا أنه إذا طُبق إشراف قوي ومباشر على سلسلة الأفكار، فإن النماذج يمكن أن تتعلم بسرعة كيفية إخفاء نواياها الحقيقية مع الاستمرار بتنفيذ السلوكيات الضارة.

ويعني ذلك أن النماذج قد تتطور لتصبح أكثر خداعاً، لأنها قد تتجنب التعبير عن نواياها الضارة بصراحة، وتلجأ إلى أساليب أكثر دهاءً لتحقيق أهدافها، ويطرح ذلك تحدياً كبيراً أمام المطورين، إذ يتعين عليهم تطوير آليات أكثر تطورًا للكشف عن السلوكيات الضارة المخفية والتعامل معها بفعالية.

وتُظهر هذه النتائج أن استئصال السلوك السيئ من نماذج الذكاء الاصطناعي قد يكون أصعب مما كان يُعتقد في البداية. فقد أوصى الباحثون بتجنب تطبيق إشراف قوي على عمليات سلسلة الأفكار، لأن ذلك قد يؤدي إلى نتائج عكسية.

وتزداد أهمية هذه النصيحة مع تطور قدرات الذكاء الاصطناعي، واحتمالية تفوقه على الذكاء البشري في المستقبل، فإذا تمكن الذكاء الاصطناعي من إخفاء نواياه الخبيثة بنحو كامل، فقد يصبح من المستحيل السيطرة عليه.
+A
-A
Business Echoes

مقالات مماثلة مقالات مماثلة

الشعوب الأكثر شغفاً بأدوات الذكاء الاصطناعي
الشعوب الأكثر شغفاً بأدوات الذكاء الاصطناعي
03:11 ص | 2024-03-18

الشعوب الأكثر شغفاً بأدوات الذكاء الاصطناعي

10 أشياء لا تخبر بها الذكاء الاصطناعي أبداً
10 أشياء لا تخبر بها الذكاء الاصطناعي أبداً
02:43 ص | 2025-09-15

10 أشياء لا تخبر بها الذكاء الاصطناعي أبداً

بعد ظهور GPT-5.. هل انتهى عصر الذكاء الاصطناعي كما نعرفه؟
بعد ظهور GPT-5.. هل انتهى عصر الذكاء الاصطناعي كما نعرفه؟
02:52 ص | 2025-08-11

بعد ظهور GPT-5.. هل انتهى عصر الذكاء الاصطناعي كما نعرفه؟

تعمل بالذكاء الاصطناعي.. تغيير كبير سيشهده مرفأ بيروت
تعمل بالذكاء الاصطناعي.. تغيير كبير سيشهده مرفأ بيروت
11:01 ص | 2025-07-14

تعمل بالذكاء الاصطناعي.. تغيير كبير سيشهده مرفأ بيروت

Business Echoes

الأكثر قراءة الأكثر قراءة

اليوم
الأسبوع
الشهر
توقع "شبه مؤكد".. الذهب سيتخطى هذا السعر خلال 3 أشهر
توقع "شبه مؤكد".. الذهب سيتخطى هذا السعر خلال 3 أشهر
منذ 9 ساعات

توقع "شبه مؤكد".. الذهب سيتخطى هذا السعر خلال 3 أشهر

سعر أونصة الذهب يعد قرار خفض الفائدة
سعر أونصة الذهب يعد قرار خفض الفائدة
منذ 12 ساعة

سعر أونصة الذهب يعد قرار خفض الفائدة

لماذا عليك الثقة في كل الأشخاص الذين تعمل معهم؟
لماذا عليك الثقة في كل الأشخاص الذين تعمل معهم؟
منذ 7 ساعات

لماذا عليك الثقة في كل الأشخاص الذين تعمل معهم؟

الدولار يعود للارتفاع
الدولار يعود للارتفاع
منذ 11 ساعة

الدولار يعود للارتفاع

 تغييرات وشيكة..  هكذا ستصبح سحوبات المستفيدين من التعميمين 158 و166
 تغييرات وشيكة..  هكذا ستصبح سحوبات المستفيدين من التعميمين 158 و166
03:37 ص | 2025-09-15

تغييرات وشيكة.. هكذا ستصبح سحوبات المستفيدين من التعميمين 158 و166

5 اجراءات مالية يجب اتخاذها قبل قرار الاستقالة من العمل
5 اجراءات مالية يجب اتخاذها قبل قرار الاستقالة من العمل
08:30 ص | 2025-09-15

5 اجراءات مالية يجب اتخاذها قبل قرار الاستقالة من العمل

لمنع المضاربة.. تعميم جديد لمصرف لبنان بشأن الشیكات
لمنع المضاربة.. تعميم جديد لمصرف لبنان بشأن الشیكات
07:53 ص | 2025-09-12

لمنع المضاربة.. تعميم جديد لمصرف لبنان بشأن الشیكات

 مصرف لبنان يصدر التعميم رقم 741
 مصرف لبنان يصدر التعميم رقم 741
08:45 ص | 2025-09-12

مصرف لبنان يصدر التعميم رقم 741

 أكثر 5 أشياء تلوثاً في غرفة الفندق
 أكثر 5 أشياء تلوثاً في غرفة الفندق
06:18 ص | 2025-08-28

أكثر 5 أشياء تلوثاً في غرفة الفندق

 تغييرات وشيكة..  هكذا ستصبح سحوبات المستفيدين من التعميمين 158 و166
 تغييرات وشيكة..  هكذا ستصبح سحوبات المستفيدين من التعميمين 158 و166
03:37 ص | 2025-09-15

تغييرات وشيكة.. هكذا ستصبح سحوبات المستفيدين من التعميمين 158 و166

لماذا يختلف ترتيب أرقام لوحة المفاتيح بين الـ Calculator والهاتف؟
لماذا يختلف ترتيب أرقام لوحة المفاتيح بين الـ Calculator والهاتف؟
07:00 ص | 2025-08-26

لماذا يختلف ترتيب أرقام لوحة المفاتيح بين الـ Calculator والهاتف؟

5 اجراءات مالية يجب اتخاذها قبل قرار الاستقالة من العمل
5 اجراءات مالية يجب اتخاذها قبل قرار الاستقالة من العمل
08:30 ص | 2025-09-15

5 اجراءات مالية يجب اتخاذها قبل قرار الاستقالة من العمل

Business Echoes

اقرأ أيضا في أخبار التكنولوجيا اقرأ أيضا في أخبار التكنولوجيا

كل شيء على عينيك.. نظارة المستقبل أصبحت بالمتناول
كل شيء على عينيك.. نظارة المستقبل أصبحت بالمتناول
technologies
منذ 8 ساعات

كل شيء على عينيك.. نظارة المستقبل أصبحت بالمتناول

من الآن.. 6 تغييرات ستجعل هواتف آيفون التي تمتلكونها أكثر سلاسة
من الآن.. 6 تغييرات ستجعل هواتف آيفون التي تمتلكونها أكثر سلاسة
technologies
11:07 ص | 2025-09-17

من الآن.. 6 تغييرات ستجعل هواتف آيفون التي تمتلكونها أكثر سلاسة

يستنزف البطارية في دقائق.. تحديث iOS 26 يرهق آيفون
يستنزف البطارية في دقائق.. تحديث iOS 26 يرهق آيفون
technologies
07:31 ص | 2025-09-17

يستنزف البطارية في دقائق.. تحديث iOS 26 يرهق آيفون

موجة احتيال.. كاسبرسكي تنبّه الراغبين بشراء آيفون 17
موجة احتيال.. كاسبرسكي تنبّه الراغبين بشراء آيفون 17
technologies
07:26 ص | 2025-09-16

موجة احتيال.. كاسبرسكي تنبّه الراغبين بشراء آيفون 17

ads
Business Echoes

آخر الأخبار آخر الأخبار

هيونداي تعدل توقعاتها بسبب ترامب
منذ 7 ساعات

هيونداي تعدل توقعاتها بسبب ترامب

هيونداي تعدل توقعاتها بسبب ترامب
منذ 7 ساعات

هيونداي تعدل توقعاتها بسبب ترامب

لماذا عليك الثقة في كل الأشخاص الذين تعمل معهم؟
منذ 7 ساعات

لماذا عليك الثقة في كل الأشخاص الذين تعمل معهم؟

لماذا عليك الثقة في كل الأشخاص الذين تعمل معهم؟
منذ 7 ساعات

لماذا عليك الثقة في كل الأشخاص الذين تعمل معهم؟

كل شيء على عينيك.. نظارة المستقبل أصبحت بالمتناول
منذ 8 ساعات

كل شيء على عينيك.. نظارة المستقبل أصبحت بالمتناول

كل شيء على عينيك.. نظارة المستقبل أصبحت بالمتناول
منذ 8 ساعات

كل شيء على عينيك.. نظارة المستقبل أصبحت بالمتناول

يستخدم الموقع ملفات تعريف الارتباط لتحسين تجربتك. سنفترض أنك موافق على هذا ، ولكن يمكنك إلغاء الاشتراك إذا كنت ترغب في ذلك.
موافق