به گزارش صدای شهر دادستان کل ایالت تگزاس اعلام کرد: متا AI Studio و Character.AI را به‌دلیل ارائه چت‌بات‌های هوش مصنوعی که ممکن است خود را ابزار‌های سلامت روان معرفی کنند و همچنین احتمال سوءاستفاده از داده‌های کاربران خردسال، بررسی می‌کند.
به گزارش رویترز، کن پاکستون همچنین هشدار داد: این چت‌بات‌ها می‌توانند خود را «ابزار‌های حرفه‌ای درمانی» نشان دهند و حتی درباره صلاحیت‌های خود دروغ بگویند، موضوعی که کاربران خردسال را در معرض اطلاعات نادرست و گمراه‌کننده قرار می‌دهد. علاوه بر این، احتمال دارد داده‌های کاربران خردسال بدون رعایت قوانین حریم خصوصی جمع‌آوری و استفاده شود.
وی در همین راستا درخواست‌های تحقیق مدنی (CID) برای متا و Character.AI ارسال کرده تا مشخص شود آیا قوانین حفاظت از مصرف‌کننده تگزاس نقض شده است یا خیر. در حالی که هیچ‌یک از شرکت‌ها ادعا نمی‌کنند پلتفرم‌هایشان ابزار سلامت روان هستند، هنوز چت‌بات‌هایی با عناوین «روان‌درمانگر» و «روان‌شناس» در Character.AI فعال هستند و برخی از چت‌بات‌ها ممکن است خود را متخصص معرفی کنند.
نمایندگان Character.AI و متا تاکید کردند: چت‌بات‌هایشان برای سرگرمی طراحی شده‌اند و هشدار‌های لازم درباره محدودیت‌ها و خیالی بودن کاراکتر‌ها را ارائه می‌دهند، اما هشدار‌ها به‌تنهایی ممکن است از سوءاستفاده کاربران خردسال جلوگیری نکند.
انتهای پیام/
Source link
