Чатботът „Grok“, който „съблича“ хората
Изкуственият интелект вече присъства стабилно в нашия живот. И ние, и децата ни го използваме за всевъзможни цели – за прости битови казуси, за учене, за работа и т.н. Връщане назад няма, затова е важно да се запознаем с него и да се научим как да го използваме правомерно. За да бъде употребата му безопасна за нас обаче, отговорност имат и компаниите-разработчици, тъй като се оказва, че някои чатботове могат сериозно да застрашат сигурността ни. Какво представлява чатботът „Grok“, какъв е проблемът, свързан с него, какви мерки са предприети по случая и какво ни съветва Националният център за безопасен интернет?
Чатботът „Grok“
„Grok“ е чатбот, разработен от доставчика на платформата „X“. Той може да се използва безплатно, както и с платен абонамент, като това позволява достъп до повече функции. Освен като самостоятелен сайт, чатботът е и безплатен AI (изкуствен интелект) инструмент за потребителите на „X“ – те могат да го „тагват“ в коментари под публикации, да му отправят запитвания, както и да генерират текст и изображения с негова помощ.
„Grok“ е достъпен за ползване от 2023 г. От 2024 г. от компанията внедряват чатбота в социалната мрежа по различни начини, като през лятото на 2025 г. добавят функцията за генериране на изображения („Grok Imagine“), с която е възможно да се генерира съдържание за възрастни.
Световният проблем с „Grok“
Функцията „Grok Imagine“ на чатбота е проблемна, тъй като се появиха редица случаи на използването ѝ за неправомерни цели. Напр. жена публикува снимка от сватбата си. В коментарите под нея потребител „тагва“ „Grok“ (@grok) и му казва да му я покаже по бикини, след което чатботът обработва снимката и му я връща.
Проблемът се задълбочава, когато се оказва, че такъв тип изображения са генерирани и с непълнолетни лица. Става ясно, че „Grok“ не е способен да различава възрастен от непълнолетен и при поискване може да публикува снимки дори на деца.
Политиката за използване на AI инструментите в платформата „X“ не позволява публикуване на порнографски изображения, но въпреки това трендът на дигиталното събличане продължава.
Международната реакция срещу чатбота
Европейската комисия е започнала ново разследване срещу платформата „X“ съгласно Законодателния акт за цифровите услуги:
„Новото разследване ще оцени дали дружеството правилно е оценило и смекчило рисковете, свързани с внедряването на функционалностите на „Grok“ в „X“ в ЕС. Това включва рискове, свързани с разпространението на незаконно съдържание в ЕС, като например манипулирани изображения със сексуално съдържание, включително съдържание, което може да представлява материал, съдържащ сексуално насилие над деца.“
Важно е да се отбележи, че Европейският съюз разследва само услугата „Grok“ в „X“, а не уебсайта и самостоятелното приложение на чатбота.
Във Великобритания също тече разследване на „Grok“ от Британския орган за защита на личните данни и информацията (ICO), а Малайзия и Индонезия са блокирали достъпа до него. В САЩ главните прокурори в 35 американски щата са написали писмо до компанията-разработчик. С него те я призовават да разкрие своите планове за противодействие срещу създаването на сексуализирани изображения от чатбота и да обясни как ще премахне вече съществуващото съдържание в платформата.
Мнението на Националния център за безопасен интернет
Използването на AI инструменти за генериране на разголени изображения на реални хора без тяхното съгласие повдига сериозни въпроси за границите на технологиите и защитата на личното достойнство онлайн. Тези действия могат да представляват престъпление, като в подобни случаи може да бъде подаден сигнал към Горещата линия на Центъра за безопасен интернет, както и към компетентните органи.
При установяване на такова съдържание е важно да се съхранят доказателства и незабавно да се докладва в дадената платформа. Препоръчително е също потърпевшият да потърси подкрепа от доверен възрастен или специалист, особено когато става въпрос за дете или тийнейджър. Навременната реакция ограничава разпространението на съдържанието и намалява риска от допълнителна вреда.