OpenAI חסמה רשת רוסית שהפעילה בוטים בטלגרם

OpenAI, החברה שמפתחת את ChatGPT, הודיעה כי חסמה חשבונות שהיו קשורים לרשת פעילות שמקורה ברוסיה, שלא דווחה עד כה בפומבי. החברה כינתה את הרשת בשם הקוד ״Bad Grammar״ (דקדוק גרוע), ולפי הממצאים שפרסמה היא שימשה להפצת תוכן פוליטי מתוזמן ואוטומטי ברשת ההודעות טלגרם.

לפי התיאור שמסרה החברה, הגורמים מאחורי הרשת השתמשו בכלי בינה מלאכותית כדי לייצר תגובות באנגלית וברוסית, שהתפרסמו תחת חשבונות טלגרם שונים. תוכן התגובות עסק בעיקר בנושאים הקשורים למלחמה באוקראינה, למולדובה, למדינות הבלטיות ולפוליטיקה הפנימית בארצות הברית.

איך פעלה הרשת

הפעילות שזוהתה על ידי OpenAI התבססה על יצירה אוטומטית של תגובות באמצעות מודלים של בינה מלאכותית, שהוזרמו לאחר מכן לזירת הדיון בטלגרם. השימוש בכלי AI מאפשר להפיק כמות גדולה של טקסטים בשתי שפות במהירות ובעלות נמוכה, מה שיכול להעניק לרשת כזו תחושת נוכחות רחבה יותר משהיא בפועל.

החברה ציינה כי מדובר בפעולה שמקורה ברוסיה, אך לא נמסרו פרטים נוספים על הגורמים הספציפיים שעמדו מאחוריה, על היקף התפוצה המדויק או על מספר החשבונות שהיו מעורבים.

הנושאים שבמוקד הפעילות

מבין הנושאים שעליהם התמקדה הרשת בלטו ארבעה אזורים ונושאים מרכזיים: המלחמה באוקראינה, מולדובה, מדינות הבלטיות, וכן השיח הפוליטי בארצות הברית. הבחירה בנושאים אלה משקפת עניין בזירות שבהן יש מתיחות גיאופוליטית מול רוסיה או השפעה אפשרית על דעת הקהל בנוגע למדיניות כלפיה.

OpenAI מסרה כי בעקבות זיהוי הפעילות היא פעלה לחסום את החשבונות שהיו קשורים אליה בשירותיה, כחלק ממאמציה להתמודד עם שימוש לרעה בכלי הבינה המלאכותית שהיא מפתחת לצורך הפצת תוכן פוליטי מתואם ולא אותנטי.