Под притисок на сè погласните реакции од јавноста и институциите, платформата X воведе строги ограничувања за својот AI-алат Grok, со што практично ја затвори вратата за создавање и уредување сексуализирани deepfake-слики од вистински луѓе.
По серија алармантни извештаи за злоупотреба на вештачката интелигенција – особено во Обединетото Кралство и САД – компанијата соопшти дека Grok повеќе нема да дозволува обработка на фотографии на реални лица на начин што ги прикажува во бикини, долна облека или друга оскудна облека. Забраната важи за сите корисници, без разлика дали плаќаат претплата или не.
„Воведовме технолошки бариери кои оневозможуваат ваков тип манипулација со слики од вистински луѓе“, наведуваат од X, додавајќи дека мерките се дел од поширок напор за спречување на злоупотреби и полесно утврдување одговорност кај корисниците.
Иако компанијата и понатаму инсистира дека само претплатниците ќе имаат пристап до алатки за уредување слики, новите правила јасно ставаат до знаење дека генерирање сексуализирани визуелни содржини со реални лица – без разлика на намерата – нема да биде толерирано. Ограничувањата, како што велат, ќе се применуваат во согласност со законите на секоја држава поединечно.
Одлуката доаѓа во чувствителен момент. Само неколку часа претходно, главниот обвинител на Калифорнија, Роб Бонта, потврди дека е отворена истрага за ширење на AI-генерирани сексуализирани содржини, меѓу кои и такви што вклучуваат деца. „Овие материјали се користат како средство за вознемирување и понижување, особено на жени и малолетници“, предупреди Бонта.
Меѓународните реакции не изостанаа. Малезија и Индонезија веќе го блокираа пристапот до chatbot-от, додека британскиот премиер Кир Стармер остро порача дека X ризикува да го изгуби правото на саморегулација доколку не преземе решителни чекори. Во исто време, британскиот медиумски регулатор Ofcom најави истрага за тоа дали платформата ги почитувала домашните закони поврзани со сексуализирани дигитални содржини.
