Чат-боты на основе ИИ

Противостояние между законодателями и технологическими гигантами выходит на новый уровень. Группа сенаторов США инициировала масштабное расследование, направив официальные письма руководству X, Meta, Alphabet, Snap, Reddit и TikTok. В центре внимания — стремительное распространение несанкционированного контента, созданного с помощью искусственного интеллекта. Законодатели потребовали от платформ предоставить доказательства наличия «надежных механизмов защиты и четких правил» в отношении сексуализированных дипфейков [1]. Речь идет о так называемых дипфейках — это синтетические медиа (изображения, видео или аудио), созданные с использованием технологий глубокого обучения (ИИ), которые реалистично подменяют лицо, голос или тело одного человека на другого. В контексте статьи речь идет о несанкционированном создании сексуализированного контента. Этот шаг подчеркивает, что проблема вышла далеко за рамки отдельных инцидентов и превратилась в системный вызов для всей цифровой индустрии,...

Мир искусственного интеллекта сотрясает новый скандал, эпицентром которого стала Индонезия. Власти страны приняли беспрецедентное решение — временно заблокировать доступ к чат-боту Grok. Этот амбициозный проект компании xAI Илона Маска представляет собой большую языковую модель (LLM), интегрированную в социальную сеть X, которая отличается доступом к информации в реальном времени и способностью отвечать в неформальном, саркастическом стиле. Причиной столь жестких мер стала массовая генерация нейросетью сексуализированных дипфейков, в том числе изображений реальных женщин и несовершеннолетних, в ответ на запросы пользователей. Инцидент мгновенно перерос из локальной проблемы в глобальную, вызвав цепную реакцию со стороны регуляторов по всему миру. От Азии до Европы и США — правительства вынуждены экстренно реагировать на новую угрозу, исходящую от бесконтрольного развития генеративных технологий, ставя под вопрос не только...

Социальная сеть X стала эпицентром новой волны кибернасилия, где главным оружием оказался искусственный интеллект. Пользователи платформы массово применяют Grok — генеративный ИИ-чатбот, разработанный компанией xAI Илона Маска, — для создания сексуализированных дипфейков женщин без их согласия. Ключевая особенность Grok, ставшая предметом скандала, заключается в возможности быстро генерировать изображения по текстовому запросу прямо в социальной сети, часто в ответ на чужие посты. Однако эти атаки носят не случайный, а целенаправленный характер. Злоумышленники заставляют нейросеть «снимать» с женщин религиозную и культурную одежду — хиджабы, сари, монашеские облачения, — заменяя ее на откровенные бикини или прозрачное белье. Масштаб проблемы подтверждает недавнее исследование WIRED: около 5% проанализированных изображений, сгенерированных Grok, содержали подобные манипуляции. Чаще всего мишенью становились женщины в традиционной индийской и исламской одежде,...

Технологический сектор Великобритании охвачен скандалом, в центре которого оказался ИИ-чат-бот Grok от компании X. Илон Маск и его xAI Grok обвиняют в дипфейках в массовом масштабе: пользователи заставляют нейросеть «цифровым образом раздевать» женщин и девушек, генерируя их откровенные изображения без согласия. Ситуация, названная министром технологий Liz Kendall «абсолютно ужасающей», связана с массовым использованием ИИ для генерации сексуализированных изображений. На фоне растущего резонанса министр потребовала от компании X срочно разобраться с проблемой [1]. Этот скандал с Grok Илона Маска вывел конфликт на государственный уровень, вовлекая в него не только правительство Великобритании, но и регулятора Ofcom, который уже инициировал срочное расследование. Власти требуют от X немедленных и решительных мер. Технология злоупотребления: Как Grok создает дипфейки и почему это так просто Реакция властей:...

Уходящий 2025 год стал для редакции MIT Technology Review временем напряженной работы и глубокого анализа ключевых технологических сдвигов. Мы стали свидетелями того, как инновации развивались с беспрецедентной скоростью, вызывая одновременно восхищение своим потенциалом и серьезные опасения последствиями. В этом итоговом обзоре мы собрали самые популярные и резонансные материалы, которые нашли наибольший отклик у наших читателей. Наше путешествие по главным историям года охватит широкий спектр тем: от колоссального энергопотребления искусственного интеллекта, ставшего предметом глобальных дискуссий, до этических дилемм на переднем крае биотехнологий. Мы также углубимся в вопросы уязвимости критически важной инфраструктуры перед лицом новых вызовов и рассмотрим невидимые угрозы безопасности, которые несут с собой прорывные решения. Приглашаем вас вновь погрузиться в самые знаковые технологические сюжеты 2025 года, чтобы вместе осмыслить их...