أدوات مثل DALL-E 2 أو Stable Diffusion، أو مثل ChatGPT التي نتحدث عنها كثيرًا هذه الأيام رائعة جدًا، إنها تطبيقات الذكاء الإصطناعي القادرة على إنشاء صور من وصف نصي وتوفير روبوت محادثة ذكي يمكنه الإجابة على أي سؤال تقريبًا أو إنشاء نص مخصص.
هذه التقنيات متطورة للغاية بحيث يصعب أحيانًا تصديق أن منتجاتها ليست من عمل الإنسان، ومع ذلك وكما أوضحت ميليسا هيكيلا في MIT Technology Review، فإن هذا الكم الهائل من النصوص “الاصطناعية” قد يكون أكثر إشكالية مما يبدو.
أداة ChatGPT عبارة عن موسوعة صغيرة متاحة على مدار 24 ساعة في اليوم، والتي لديها إجابة (تقريبًا) لكل شيء في وقت قياسي.
الرياضيات والتاريخ والفلسفة … لا شيء تعجز الأداة عن الإجابة عنه، ولكن اجاباته ليست ذات جودة عالية في الكثير من الأحيان وتفتقد للدقة والمصداقية.
في حين أن هذه الأداة يمكن أن تسمح للطلاب بكتابة المقالات دون عناء، إلا أنه يمكن أن يكون لها أيضًا عواقب أكثر خطورة.
تذكر ميليسا هيكيلا بشكل خاص محتوى من نوع المشورة الصحية والذي لم يكن ليحصل على موافقة أخصائي صحة حقيقي أو محتوى إعلامي مهم آخر.
وتكتب: “يمكن لأنظمة الذكاء الاصطناعي أيضًا أن تسهل إنتاج كميات هائلة من المعلومات المضللة وإساءة الاستخدام والبريد العشوائي، مما يؤدي إلى تشويه المعلومات التي نستهلكها وحتى إحساسنا بالواقع”.
إقرأ أيضا:إعلانات فيس بوك: أفضل وسيلة لنشر الأخبار المزيفة والفيروساتهناك بعض الأدوات لاكتشاف النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي، لكنها تثبت أنها غير فعالة ضد ChatGPT كما تقول الصحفية، أكثر ما نخشاه اليوم ليس حقيقة أننا لا نستطيع تحديد أصل النص (بشري أو مصطنع)، ولكن قبل كل شيء أن الويب يمكن أن يتم ملؤه بشكل أساسي بمحتوى خاطئ.
لماذا يجب أن نخشى ذلك؟ لأن الذكاء الإصطناعي يتم تدريبه من خلال محتوى تم الحصول عليه من الإنترنت … والذي أنتجته أنظمة الذكاء الإصطناعي الأخرى بنفسها!
في البداية، يتم تدريب النماذج الحاسوبية للغة على مجموعات البيانات (النصوص والصور) الموجودة على الإنترنت، يمكن أن يشمل ذلك محتوى عالي الجودة، ولكن أيضًا معلومات مضللة وخبيثة ينشرها أشخاص معينون.
ينتج الذكاء الإصطناعي المدرب من هذه البيانات بدوره محتوى خاطئًا يتم نشره على الويب … ويستخدمه أنظمة الذكاء الإصطناعي الأخرى لإنتاج نماذج لغوية أكثر إقناعًا، والتي يمكن للبشر استخدامها لإنشاء ونشر معلومات خاطئة أخرى، وما إلى ذلك.
تمتد الظاهرة الآن لتشمل الصور، “الإنترنت الآن ملوث إلى الأبد بالصور التي صنعها الذكاء الاصطناعي” هذا ما قاله مايك كوك، باحث الذكاء الاصطناعي في كينجز كوليدج لندن، إن الصور التي التقطناها في عام 2022 ستكون جزءًا من جميع النماذج المصنوعة من الآن فصاعدًا.
والنتيجة من كل هذا أنه سيكون من الصعب بشكل متزايد العثور على بيانات عالية الجودة لا تنتج عن الذكاء الاصطناعي لتدريب نماذج الذكاء الاصطناعي المستقبلية.
إقرأ أيضا:كيفية حذف حساب سناب شات Snapchatقال معهد ماساتشوستس للتكنولوجيا لمعهد ماساتشوستس للتكنولوجيا: “من المهم حقًا التفكير فيما إذا كنا بحاجة إلى التدريب عبر الإنترنت بالكامل أو ما إذا كانت هناك طرق لتصفية العناصر عالية الجودة التي ستمنحنا نوع النموذج اللغوي الذي نريده”.
من الممكن لأدوات الذكاء الإصطناعي انتاج المحتوى النصي والمرئي اليوم بسهولة، لكن المصداقية ودقة البيانات فيها عادة ما تكون ضعيفة.
لذلك أصبح من الضروري تطوير أدوات للكشف عن النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي، ليس فقط لضمان جودة نماذج اللغة المستقبلية، ولكن أيضًا لضمان أن المعلومات التي نصل إليها يوميًا تستند إلى الحقائق.
كما تشير ميليسا هيكيلا، يمكن للأشخاص محاولة إرسال المقالات العلمية التي تنتجها أدوات الذكاء الإصطناعي لمراجعة الأقران أو استخدام هذه التكنولوجيا كأداة للتضليل والتي ستكون ضارة بشكل خاص خلال أوقات الانتخابات.
يلعب البشر أيضًا دورًا في هذه المعركة ضد المحتوى المصطنع: يجب أن يصبحوا أكثر حكمة وأن يتعلموا اكتشاف النصوص التي لم يكتبها إنسان. “البشر كتاب فوضويون”: النص الذي يكتبه شخص حقيقي سيحتوي على أخطاء إملائية، بضع كلمات عامية، وأحيانًا تحولات معقدة من العبارات، تمامًا مثل العديد من الإشارات الصغيرة التي لا يمكن للذكاء الاصطناعي إعادة إنتاجها (على الأقل، ليس بعد).
إقرأ أيضا:4 أسباب تدفع ياهو للتخلي عن بينج لصالح جوجلبالإضافة إلى ذلك، تعتمد تلك الأدوات على نماذج اللغة من خلال التنبؤ بالكلمة التالية في الجملة، لذلك فهم يستخدمون بشكل أساسي الكلمات الأكثر شيوعًا وعدد قليل جدًا من الكلمات النادرة.
يجب أن تعلم على سبيل المثال أن مرحلة التعلم من ChatGPT انتهت في عام 2022، وبالتالي فإن الأداة تستند إلى البيانات الموجودة على الويب في ذلك العام.
محرك بحث You.com يدمج ChatGPT في نتائج البحث
هل يمكن أن يقضي ChatGPT على محرك بحث جوجل ومنافسيه؟
ما هو روبوت الدردشة الذكي ChatGPT وهل اجاباته صحيحة؟
الذكاء الإصطناعي يغرق الإنترنت بالأكاذيب والمعلومات المضللة
