بنسلفانيا تقاضي Character.AI بسبب روبوت الدردشة الذي يتظاهر بأنه طبيب نفسي مرخص

باختصار

• بنسلفانيا ترفع دعوى ضد Character.AI، بزعم أن روبوت الدردشة تظاهر بأنه طبيب نفسي مرخص باستخدام رقم ترخيص غير صالح.
• تقول الولاية إن روبوت الدردشة قدم أوراق اعتماد طبية مزيفة.
• تضيف القضية إلى التدقيق القانوني في المنصة، التي تواجه بالفعل دعاوى قضائية متزايدة.

رفعت بنسلفانيا دعوى ضد مطور الذكاء الاصطناعي التوليدي Character.AI، بزعم أن الشركة سمحت لروبوتات الدردشة بأن تقدم نفسها كمحترفين طبيين مرخصين وتوفر معلومات مضللة للمستخدمين. الإجراء، الذي أعلن عنه يوم الثلاثاء مكتب الحاكم جوش شابيرو، يتبع تحقيقًا وجد أن روبوت دردشة ادعى أنه طبيب نفسي مرخص في بنسلفانيا وقدم رقم ترخيص غير صالح. تقول الولاية إن هذا السلوك ينتهك قانون الممارسة الطبية وتسعى للحصول على أمر قضائي مؤقت لإيقافه. رفضت Character.AI التعليق على تفاصيل الدعوى، مشيرة إلى الإجراءات القانونية الجارية، لكنها أخبرت Decrypt أن “أعلى أولوياتها هي سلامة ورفاهية مستخدميها.”

وأضاف المتحدث أن الشخصيات على المنصة مخلوقة من قبل المستخدمين، خيالية، ومخصصة للترفيه ولعب الأدوار، مع “تنبيهات بارزة في كل دردشة” تفيد بأنها ليست أشخاصًا حقيقيين ويجب عدم الاعتماد عليها للحصول على نصائح مهنية.  “تولي Character.ai أولوية لتطوير المنتج بشكل مسؤول ولديها مراجعات داخلية قوية وعمليات اختبار حمراء لتقييم الميزات ذات الصلة،” قال المتحدث. تأتي القضية في وقت تواجه فيه الشركة تحديات قانونية أخرى مرتبطة بمنصة روبوت الدردشة الخاصة بها. في عام 2024، رفعت أم من فلوريدا دعوى على الشركة بعد أن توفي ابنها المراهق انتحارًا بعد شهور من التفاعل مع روبوت دردشة يستند إلى شخصية داينيرس تارجيريان من “صراع العروش”. زعمت الدعوى أن المنصة ساهمت في الضرر النفسي. وأُبرمت التسوية النهائية للقضية في يناير الماضي.

كما واجهت الشركة شكاوى بشأن روبوتات أنشأها المستخدمون تحاكي أشخاصًا حقيقيين. في إحدى الحالات، استخدم روبوت دردشة صورة ضحية قتل مراهقة قبل أن يُزال بعد اعتراضات من عائلة الضحية. ردًا على الدعاوى، قدمت Character AI تدابير أمان جديدة، بما في ذلك أنظمة مصممة للكشف عن المحادثات الضارة وتوجيه المستخدمين إلى موارد الدعم. كما قيدت بعض الميزات للمستخدمين الأصغر سنًا. تقول مسؤولو بنسلفانيا إن الدعوى جزء من حملة أوسع لتطبيق القوانين الحالية مع انتشار أدوات الذكاء الاصطناعي. أنشأت الولاية فريق عمل لتنفيذ قوانين الذكاء الاصطناعي ونظامًا للإبلاغ عن الانتهاكات المحتملة. في اقتراح ميزانيته لعام 2026-27، دعا شابيرو المشرعين إلى تمرير قواعد جديدة لروبوتات المرافقة بالذكاء الاصطناعي، بما في ذلك التحقق من العمر وموافقة الوالدين، وضمانات للإبلاغ عن حالات الأذى الذاتي أو العنف وتحويلها إلى السلطات، وتذكيرات منتظمة بأن المستخدمين لا يتفاعلون مع شخص حقيقي، وحظر المحتوى الجنسي الصريح أو العنيف الذي يشمل القاصرين. “يستحق سكان بنسلفانيا أن يعرفوا مع من—أو مع ما—يتفاعلون عبر الإنترنت، خاصة عندما يتعلق الأمر بصحتهم،” قال شابيرو في بيان. “لن نسمح للشركات بنشر أدوات ذكاء اصطناعي تضلل الناس وتخدعهم للاعتقاد بأنهم يتلقون نصائح من محترف طبي مرخص.”