Комиссия по связи и мультимедиа Малайзии (MCMC) начала официальное расследование в отношении использования искусственного интеллекта Grok для создания дипфейков. Поводом послужили сообщения о том, что чат-бот, интегрированный в социальную сеть X, применялся для манипуляций с фотографиями женщин, в частности для удаления одежды и хиджабов с изображений.
Реакция властей и юридические последствия
В рамках расследования MCMC намерена вызвать для дачи показаний официальных представителей платформы X. Власти подчеркивают, что создание и распространение подобного контента является прямым нарушением статьи 233 Закона о связи и мультимедиа 1998 года. Данный законодательный акт запрещает распространение материалов непристойного или оскорбительного характера в сети.
Комиссия также обратилась ко всем онлайн-платформам, работающим на территории Малайзии, с призывом строго соблюдать местное законодательство. Регулятор настаивает на необходимости внедрения защитных механизмов для функций, основанных на искусственном интеллекте, чтобы предотвратить их неправомерное использование в будущем. Этот инцидент подчеркивает растущую обеспокоенность по поводу злоупотребления ИИ-технологиями для создания вредоносного контента.
Проблема дипфейков и ответственность платформ
Случай в Малайзии стал еще одним примером глобальной проблемы, связанной с неэтичным применением генеративного ИИ. Технологии дипфейков, изначально разработанные для других целей, все чаще используются для создания компрометирующих и фейковых материалов, что представляет серьезную угрозу для общества. Ответственность за контроль над такими инструментами ложится не только на пользователей, но и на технологические компании, которые их разрабатывают и внедряют.
- Растущее число инцидентов с дипфейками по всему миру.
- Необходимость введения четких правил для ИИ-инструментов.
- Усиление контроля со стороны государственных регуляторов.
Сложившаяся ситуация ставит перед разработчиками ИИ и владельцами социальных платформ острый вопрос о необходимости внедрения более строгих мер безопасности и этических рамок. Расследование в Малайзии может создать прецедент и подтолкнуть другие страны к ужесточению регулирования в сфере искусственного интеллекта для защиты граждан от цифровых угроз.