Индонезия заблокировала чат-бот Grok из-за рисков создания непристойного контента

Власти Индонезии ввели временный запрет на доступ к чат-боту Grok, разработанному компанией Илона Маска xAI. Решение было принято из-за опасений, что инструмент может использоваться для генерации порнографических материалов с помощью искусственного интеллекта, пишет The Guardian.

Этот шаг последовал за критикой со стороны правительств, исследователей и регуляторов из разных регионов мира, включая Европу и Азию. Некоторые из них уже начали расследования, касающиеся распространения сексуализированного контента через приложение.

Стартап xAI объявил об ограничении функций генерации и редактирования изображений для пользователей с платной подпиской. Компания пытается устранить уязвимости в защитных механизмах, которые позволяли создавать откровенные материалы, в том числе с изображениями детей в неподобающей одежде.

«Правительство рассматривает практику несогласованных сексуальных дипфейков как серьёзное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — заявила министр коммуникаций и цифровых технологий Индонезии Меутья Хафид. Министерство также вызвало представителей платформы X для обсуждения сложившейся ситуации.

Илон Маск в своем аккаунте в X отметил, что любой, кто использует Grok для создания незаконного контента, понесёт ответственность, как если бы он самостоятельно загрузил подобные материалы. Компания xAI, отвечая на запрос Reuters, прислала, по-видимому, автоматический ответ: «Лживые медиа старой школы». Платформа X не предоставила оперативного комментария.

Индонезия, где проживает самое большое мусульманское население в мире, имеет строгие законы, запрещающие распространение в интернете контента, считающегося непристойным. Блокировка в стране была введена после того, как Grok отключил функцию создания изображений для большинства пользователей в пятницу.