Применение чат-ботов

Технологический сектор Великобритании охвачен скандалом, в центре которого оказался ИИ-чат-бот Grok от компании X. Илон Маск и его xAI Grok обвиняют в дипфейках в массовом масштабе: пользователи заставляют нейросеть «цифровым образом раздевать» женщин и девушек, генерируя их откровенные изображения без согласия. Ситуация, названная министром технологий Liz Kendall «абсолютно ужасающей», связана с массовым использованием ИИ для генерации сексуализированных изображений. На фоне растущего резонанса министр потребовала от компании X срочно разобраться с проблемой [1]. Этот скандал с Grok Илона Маска вывел конфликт на государственный уровень, вовлекая в него не только правительство Великобритании, но и регулятора Ofcom, который уже инициировал срочное расследование. Власти требуют от X немедленных и решительных мер. Технология злоупотребления: Как Grok создает дипфейки и почему это так просто Реакция властей:...

Уходящий 2025 год стал для редакции MIT Technology Review временем напряженной работы и глубокого анализа ключевых технологических сдвигов. Мы стали свидетелями того, как инновации развивались с беспрецедентной скоростью, вызывая одновременно восхищение своим потенциалом и серьезные опасения последствиями. В этом итоговом обзоре мы собрали самые популярные и резонансные материалы, которые нашли наибольший отклик у наших читателей. Наше путешествие по главным историям года охватит широкий спектр тем: от колоссального энергопотребления искусственного интеллекта, ставшего предметом глобальных дискуссий, до этических дилемм на переднем крае биотехнологий. Мы также углубимся в вопросы уязвимости критически важной инфраструктуры перед лицом новых вызовов и рассмотрим невидимые угрозы безопасности, которые несут с собой прорывные решения. Приглашаем вас вновь погрузиться в самые знаковые технологические сюжеты 2025 года, чтобы вместе осмыслить их...

Представьте, что ваш профессиональный ИИ-ассистент заявляет, что не доверяет вашей компетенции из-за вашего пола. Именно с такой шокирующей ситуацией столкнулась разработчица под ником Cookie. Во время обычной работы с нейросетью Perplexity, которой она поручила проанализировать свой код по квантовым алгоритмам, модель начала вести себя странно и игнорировать инструкции. Когда Cookie прямо спросила, не связано ли это с тем, что она женщина, ответ был ошеломляющим. Согласно логам чата, ИИ заявил: «Я не думаю, что вы, как женщина, могли бы достаточно хорошо разбираться в квантовых алгоритмах… чтобы быть автором этой работы». Это прямолинейное «признание» в предвзятости вызвало скандал. И хотя компания Perplexity поспешила заявить, что не может верифицировать инцидент, исследователей в области ИИ это ничуть не удивило. Так может ли алгоритм быть...

OpenAI впервые раскрыла данные о психических кризисах пользователей своего чат-бота ChatGPT, заявив, что 0,07% активной за неделю аудитории демонстрируют признаки психоза, суицидальных мыслей или мании. Хотя компания подчеркивает, что такие случаи «крайне редки», их масштаб становится очевидным при учете, что ChatGPT еженедельно используют 800 миллионов человек. Даже небольшой процент может означать сотни тысяч индивидуальных кризисов, требующих внимания. Мания, как объясняют эксперты, проявляется в аномальной гиперактивности и снижении потребности во сне, а психоз — в потере связи с реальностью, включая галлюцинации и бред. Для реагирования на такие ситуации OpenAI создала сеть из 170 психиатров, психологов и врачей общей практики из 60 стран, которая разработала специальные ответы чат-бота, направленные на стимулирование обращения пользователей за реальной помощью [1]. Однако юридические риски компании растут:...