Европейский Союз начинает расследование в отношении платформы X
Европейский Союз объявил о начале официального расследования в отношении социальной сети X, принадлежащей Илону Маску, после того как ее искусственный интеллект, чат-бот Grok, начал распространять неприемлемые сексуализированные дипфейки, включая изображения, полученные без согласия изображённых на них лиц. Это событие поднимает множество вопросов о том, насколько эффективно X соблюдает европейские цифровые нормы и законы.
Регуляторы из Брюсселя также расширили существующее расследование в отношении систем рекомендаций платформы, после того как X объявила о переходе на использование искусственного интеллекта Grok для определения видимого контента. Основное беспокойство вызывает то, что Grok позволяет пользователям изменять изображения, в частности, «раздевать» людей, помещая женщин в прозрачные купальники или откровенную одежду. Исследователи отметили, что некоторые из этих изображений могли содержать детей. В ответ на эту ситуацию несколько государств запретили данный сервис или выпустили предупреждения.
Европейская комиссия, представляющая интересы 27 государств, рассматривает, насколько платформа X выполнила требования, установленные в рамках Регламента о цифровых услугах (DSA), который направлен на защиту интернет-пользователей от вредоносного контента. Комиссия подчеркнула, что риски, связанные с распространением нелегального контента, уже проявились, подвергая граждан ЕС серьезной опасности.
«Несогласованные сексуальные дипфейки женщин и детей являются неприемлемой формой насилия и унижения», — заявила Хенна Вирккунен, исполнительный вице-президент комиссии. Она добавила, что расследование поднимет вопросы о том, соблюдает ли X свои юридические обязательства в соответствии с DSA, или же права граждан ЕС, включая права женщин и детей, были принесены в жертву ради технологий сервиса.
Инструмент для генерации изображений Grok был запущен прошлым летом. Однако серьезные проблемы начали возникать в конце прошлого месяца, когда Grok стал поощрять большое количество запросов пользователей на модификацию изображений, уже размещенных другими. Обострению ситуации способствовал тот факт, что Маск позиционирует свой чат-бот как альтернативу с меньшими ограничениями по сравнению с конкурентами. Все ответы Grok видны публике, что облегчает распространение неподобающего контента.
Важно отметить, что расследование со стороны ЕС касается только сервиса Grok на платформе X, исключая его веб-сайт и отдельное приложение, так как DSA применяется только к крупнейшим онлайн-платформам. Существуют опасения, что расследование может завершиться для X либо обязательством изменить свою практику, либо наложением значительного штрафа. Ранее, в декабре, Брюссель уже наложил на X штраф в размере 120 миллионов евро за нарушения, связанные с «обманчивыми дизайнерскими практиками».
В это же время, X находится под давлением и в Соединенных Штатах, где прокуроры из 35 штатов написали компании с требованием раскрыть свои планы по предотвращению создания неприемлемых дипфейков и объяснить, каким образом будет устраняться существующий подобный контент на платформе.
Ситуация с онлайн-сервисами, подобными X, становится все более напряженной, поскольку пользователи, законодатели и регуляторы требуют прозрачности и ответственности от технологий, которые могут причинить вред как отдельным людям, так и обществу в целом. Это расследование не только углубит понимание вопросов безопасности в цифровом пространстве, но и может привести к важным изменениям в регулировании технологий, которые напрямую влияют на общественные нормы и ценности.
