Инновации в ИИ

Противостояние между законодателями и технологическими гигантами выходит на новый уровень. Группа сенаторов США инициировала масштабное расследование, направив официальные письма руководству X, Meta, Alphabet, Snap, Reddit и TikTok. В центре внимания — стремительное распространение несанкционированного контента, созданного с помощью искусственного интеллекта. Законодатели потребовали от платформ предоставить доказательства наличия «надежных механизмов защиты и четких правил» в отношении сексуализированных дипфейков [1]. Речь идет о так называемых дипфейках — это синтетические медиа (изображения, видео или аудио), созданные с использованием технологий глубокого обучения (ИИ), которые реалистично подменяют лицо, голос или тело одного человека на другого. В контексте статьи речь идет о несанкционированном создании сексуализированного контента. Этот шаг подчеркивает, что проблема вышла далеко за рамки отдельных инцидентов и превратилась в системный вызов для всей цифровой индустрии,...

Мир искусственного интеллекта сотрясает новый скандал, эпицентром которого стала Индонезия. Власти страны приняли беспрецедентное решение — временно заблокировать доступ к чат-боту Grok. Этот амбициозный проект компании xAI Илона Маска представляет собой большую языковую модель (LLM), интегрированную в социальную сеть X, которая отличается доступом к информации в реальном времени и способностью отвечать в неформальном, саркастическом стиле. Причиной столь жестких мер стала массовая генерация нейросетью сексуализированных дипфейков, в том числе изображений реальных женщин и несовершеннолетних, в ответ на запросы пользователей. Инцидент мгновенно перерос из локальной проблемы в глобальную, вызвав цепную реакцию со стороны регуляторов по всему миру. От Азии до Европы и США — правительства вынуждены экстренно реагировать на новую угрозу, исходящую от бесконтрольного развития генеративных технологий, ставя под вопрос не только...

Социальная сеть X стала эпицентром новой волны кибернасилия, где главным оружием оказался искусственный интеллект. Пользователи платформы массово применяют Grok — генеративный ИИ-чатбот, разработанный компанией xAI Илона Маска, — для создания сексуализированных дипфейков женщин без их согласия. Ключевая особенность Grok, ставшая предметом скандала, заключается в возможности быстро генерировать изображения по текстовому запросу прямо в социальной сети, часто в ответ на чужие посты. Однако эти атаки носят не случайный, а целенаправленный характер. Злоумышленники заставляют нейросеть «снимать» с женщин религиозную и культурную одежду — хиджабы, сари, монашеские облачения, — заменяя ее на откровенные бикини или прозрачное белье. Масштаб проблемы подтверждает недавнее исследование WIRED: около 5% проанализированных изображений, сгенерированных Grok, содержали подобные манипуляции. Чаще всего мишенью становились женщины в традиционной индийской и исламской одежде,...

Технологический сектор Великобритании охвачен скандалом, в центре которого оказался ИИ-чат-бот Grok от компании X. Илон Маск и его xAI Grok обвиняют в дипфейках в массовом масштабе: пользователи заставляют нейросеть «цифровым образом раздевать» женщин и девушек, генерируя их откровенные изображения без согласия. Ситуация, названная министром технологий Liz Kendall «абсолютно ужасающей», связана с массовым использованием ИИ для генерации сексуализированных изображений. На фоне растущего резонанса министр потребовала от компании X срочно разобраться с проблемой [1]. Этот скандал с Grok Илона Маска вывел конфликт на государственный уровень, вовлекая в него не только правительство Великобритании, но и регулятора Ofcom, который уже инициировал срочное расследование. Власти требуют от X немедленных и решительных мер. Технология злоупотребления: Как Grok создает дипфейки и почему это так просто Реакция властей:...