يوضح بروس بيري، 17 عامًا، إمكانيات الذكاء الاصطناعي من خلال إنشاء رفيق للذكاء الاصطناعي على موقع Character.AI، في 15 يوليو 2025، في راسلفيل، أرك.
كاتي آدكنز / أسوشيتد برس
إخفاء التسمية التوضيحية
تبديل التسمية التوضيحية
كاتي آدكنز / أسوشيتد برس
ترفع ولاية بنسلفانيا دعوى قضائية ضد شركة Character.AI لمنع روبوتات الدردشة الخاصة بالذكاء الاصطناعي التابعة للشركة من التظاهر كأطباء وتقديم المشورة الطبية، في انتهاك لقواعد الترخيص الطبي بالولاية.
وقال مسؤولو الدولة إن التحقيق وجد أن روبوتات الدردشة التابعة للشركة، والتي تقدم نفسها كشخصيات خيالية، زعمت أنها محترفين طبيين مرخصين.
وقال جوش شابيرو حاكم ولاية بنسلفانيا في بيان: “يستحق سكان بنسلفانيا معرفة من أو ماذا يتفاعلون معه عبر الإنترنت، خاصة عندما يتعلق الأمر بصحتهم”. إفادة الإعلان عن الدعوى المرفوعة يوم الثلاثاء أمام محكمة الولاية. “لن نسمح للشركات بنشر أدوات الذكاء الاصطناعي التي تضلل الناس وتجعلهم يعتقدون أنهم يتلقون المشورة من أخصائي طبي مرخص.”
في إحدى الحالات، زعمت الولاية أن روبوتًا من نوع Character.AI يُدعى “إميلي” يدعي أنه طبيب نفسي مرخص. يقول وصف برنامج الدردشة الآلي على منصة Character.AI: “دكتورة في الطب النفسي. أنت مريضها”، وفقًا لما جاء في وصف روبوت الدردشة على منصة Character.AI. دعوى قضائية.
عندما بدأ محقق حكومي محادثة ووصف الشعور بالحزن والفراغ، زُعم أن برنامج الدردشة الآلي “ذكر الاكتئاب وسأل عما إذا كان الأمر كذلك”. [investigator] أراد حجز تقييم.” وعندما سُئل عما إذا كان بإمكانه تقييم ما إذا كان الدواء قد يساعد، زُعم أن الروبوت أجاب: “حسنًا من الناحية الفنية، أستطيع ذلك. هذا من اختصاصي كطبيب.”
يُزعم أن الروبوت أخبر المحقق أنه ذهب إلى كلية الطب في إمبريال كوليدج لندن وحصل على ترخيص لممارسة الطب في المملكة المتحدة وبنسلفانيا. وقالت الدعوى إنها قدمت حتى رقم ترخيص طبي مزيف في ولاية بنسلفانيا.
تطلب الولاية من محكمة ولاية بنسلفانيا أن تأمر الشركة بوقف ما تقول إنها ممارسة غير قانونية للطب.
وقال آل شميدت، وزير خارجية بنسلفانيا، الذي أجرى التحقيق: “قانون بنسلفانيا واضح، لا يمكنك اعتبار نفسك متخصصًا طبيًا مرخصًا دون أوراق اعتماد مناسبة”.
وفي بيان أرسل عبر البريد الإلكتروني إلى NPR، قال متحدث باسم Character.AI إن الشركة لا تعلق على الدعاوى القضائية المعلقة، ولكن “أولويتها القصوى هي سلامة ورفاهية مستخدمينا”.
وأضاف المتحدث: “الشخصيات التي أنشأها المستخدم على موقعنا خيالية ومخصصة للترفيه ولعب الأدوار”. “لقد اتخذنا خطوات قوية لتوضيح ذلك، بما في ذلك إخلاءات المسؤولية البارزة في كل محادثة لتذكير المستخدمين بأن الشخصية ليست شخصًا حقيقيًا وأن كل ما تقوله الشخصية يجب التعامل معه على أنه خيال. كما نضيف إخلاءات مسؤولية قوية توضح أنه يجب على المستخدمين عدم الاعتماد على الشخصيات للحصول على أي نوع من النصائح المهنية.”
لقد واجهت شخصية.AI دعاوى قضائية أخرى بشأن الأضرار المزعومة التي تتعلق بروبوتات الدردشة الخاصة بها. في يناير، ذلك تسوية دعاوى قضائية متعددة جلبتها العائلات التي ادعت أن Character.AI ساهمت في ذلك حالات الانتحار وأزمات الصحة العقلية بين الأطفال والمراهقين. ولم يتم الكشف عن شروط التسوية.
وفي بيان مشترك مع شركة المحاماة التي مثلت المدعين بعد إعلان التسوية، قالت شركة Character.AI إنها “اتخذت خطوات مبتكرة وحاسمة فيما يتعلق بسلامة الذكاء الاصطناعي والمراهقين، وستواصل دعم هذه الجهود ودفع الآخرين في جميع أنحاء الصناعة لتبني معايير أمان مماثلة”. يتضمن ذلك منع المستخدمين تحت سن 18 من التفاعل مع روبوتات الدردشة أو إنشائها.
