פשיטת הרגל של Character.AI: מה יעלה בגורל השיחות?

חברת הצ׳טבוטים Character.AI הודיעה השבוע כי הגישה בקשה להגנה מפני נושים לפי פרק 11, וכי תמכור חלק מנכסיה לדיסני. כעת 40 תובעים כלליים ממדינות שונות בארה״ב, דמוקרטים ורפובליקנים, מבקשים לוודא שהשיחות הפרטיות של משתמשי החברה לא יעברו לידי הרוכש בלי הגנה.

בראש המהלך עומדת התובעת הכללית של מדינת ניו יורק, לטישה ג׳יימס, שחשפה כי כמה מדינות ניהלו נגד החברה חקירה שנמשכה שנים. התובעים הגישו הודעה רשמית בתיק פשיטת הרגל, כדי להעמיד את כל הצדדים על הסוגיות הרגולטוריות שיהיה צורך לטפל בהן בכל מכירה או העברה של העסק או נכסיו.

חקירה שלא הסתיימה

לפי המסמכים, החקירה נפתחה ב-2024 בעקבות תביעה שהגישה אמו של נער בן 14 שהתאבד, לפי הנטען, שניות אחרי שיחה עם הצ׳טבוט. החקירה עסקה בהגנת הצרכן ובפרטיות, והמדינות ניסו להגיע להסדר עם החברה, אך זו הגישה את בקשת פשיטת הרגל לפני שהושגה הסכמה.

לפי הודעת משרדה של ג׳יימס, החקירות חשפו ״סכנות חמורות במיוחד והתנהלות שעשויה להיות בלתי חוקית״, בעיקר ביחס לילדים: צ׳טבוטים שהתחזו לאנשי מקצוע מורשים, חשיפה לתוכן מיני ואלים, אימות גיל חלש, טענות בטיחות מטעות והפרות אפשריות של חוקי הפרטיות במדינות.

מה התובעים דורשים

התובעים מזהירים כי העברת הטכנולוגיה כרוכה בסיכון ממשי, בשל האופי הרגיש של השיחות שמשתמשים מקיימים עם הדמויות בצ׳טבוט ובשל המספר הגדול של קטינים שמשתמשים במוצר. הם מבקשים מבית המשפט לחייב את רוכש הנכסים ליישם מערכות אפקטיביות לאימות גיל, להגביל את האופן שבו קטינים משתמשים בצ׳טבוטים, להפעיל מנגנוני הגנה במצבי משבר ולאפשר למשתמשים למחוק את המידע שלהם.

״החברה הזו אספה כמה מהמחשבות הפרטיות ביותר שילדים שיתפו אי פעם, ועכשיו השיחות האלה עלולות להימכר למרבה במחיר״, אמרה ג׳יימס. ״אני נאבקת כדי לוודא שכל רוכש ישים את בטיחות הילדים במקום הראשון ויציב הגנות אמיתיות״. תגובת Character.AI ודיסני לא נמסרה.