В центре каждой империи находится идеология, система убеждений, которая движет её вперед и оправдывает расширение — даже если цена этого расширения противоречит заявленной миссии идеологии. Для европейских колониальных держав это было христианство и обещание спасения душ при извлечении ресурсов. Для сегодняшней империи ИИ это искусственный общий интеллект, чтобы «принести пользу всему человечеству». OpenAI — её главный евангелист, распространяющий рвение по индустрии и изменяющий подход к созданию ИИ.
Вера в ОИИ
«Я брала интервью у людей, чьи голоса дрожали от рвения их веры в ОИИ», — рассказала Карен Хао, журналистка и автор бестселлера «Империя ИИ», в недавнем выпуске Equity на TechCrunch.
OpenAI и её влияние
В своей книге Хао сравнивает индустрию ИИ в целом и OpenAI в частности с империей. «Единственный способ действительно понять масштаб и размах поведения OpenAI — это признать, что они уже стали более могущественными, чем практически любое государство в мире, и они консолидировали огромное количество не только экономической, но и политической власти», — сказала Хао. «Они изменяют Землю. Они переписывают нашу геополитику, все наши жизни. И поэтому это можно описать только как империю».
OpenAI описывает ОИИ как «высокоавтономную систему, которая превосходит людей в большинстве экономически ценных работ», которая каким-то образом «поднимет человечество, увеличивая изобилие, ускоряя экономику и помогая в открытии новых научных знаний, которые изменяют границы возможного». Эти расплывчатые обещания подпитывают экспоненциальный рост индустрии — её огромные ресурсные потребности, океаны собранных данных, напряжённые энергетические сети и готовность выпускать непроверенные системы в мир. Всё ради будущего, которое, по мнению многих экспертов, может никогда не наступить.
Расходы и экономические вызовы
Расходы были и будут астрономическими. На прошлой неделе OpenAI заявила, что ожидает израсходовать 115 миллиардов долларов наличными к 2029 году. Meta заявила в июле, что потратит до 72 миллиардов долларов на создание инфраструктуры ИИ в этом году. Google ожидает достичь до 85 миллиардов долларов капитальных затрат к 2025 году, большая часть которых будет потрачена на расширение инфраструктуры ИИ и облачных технологий.
Вред и альтернативы
Тем временем цели продолжают меняться, и самые возвышенные «выгоды для человечества» ещё не материализовались, даже несмотря на то, что вреды накапливаются. Вред, такой как потеря рабочих мест, концентрация богатства и чат-боты ИИ, которые подпитывают заблуждения и психоз. В своей книге Хао также документирует работников в развивающихся странах, таких как Кения и Венесуэла, которые подвергались воздействию тревожного контента, включая материалы о сексуальном насилии над детьми, и получали очень низкую заработную плату — около 1-2 долларов в час — в таких ролях, как модерация контента и маркировка данных.
Хао сказала, что это ложный выбор — противопоставлять прогресс ИИ текущим вредам, особенно когда другие формы ИИ предлагают реальные выгоды. Она указала на AlphaFold от Google DeepMind, получивший Нобелевскую премию, который обучен на данных о последовательности аминокислот и сложных структурах сворачивания белков и теперь может точно предсказывать 3D-структуру белков по их аминокислотам — это чрезвычайно полезно для открытия лекарств и понимания болезней. «Это те типы систем ИИ, которые нам нужны», — сказала Хао. «AlphaFold не создаёт кризисов психического здоровья у людей. AlphaFold не приводит к колоссальному экологическому вреду… потому что он обучен на значительно меньшей инфраструктуре. Он не создаёт вреда в модерации контента, потому что [в наборах данных нет] всего того токсичного мусора, который вы собрали, когда сканировали интернет».
Заключение
Конечно, многие будут утверждать, что OpenAI и другие компании ИИ принесли пользу человечеству, выпустив ChatGPT и другие крупные языковые модели, которые обещают огромные приросты производительности, автоматизируя такие задачи, как кодирование, написание, исследования, поддержка клиентов и другие задачи, связанные с интеллектуальной работой. Но структура OpenAI — частично некоммерческая, частично коммерческая — усложняет определение и измерение её воздействия на человечество. И это ещё больше усложняется новостью на этой неделе о том, что OpenAI достигла соглашения с Microsoft, которое приближает её к выходу на биржу.
Два бывших исследователя безопасности OpenAI сказали TechCrunch, что они опасаются, что лаборатория ИИ начала путать свои коммерческие и некоммерческие миссии — что, поскольку людям нравится использовать ChatGPT и другие продукты, построенные на LLM, это ставит галочку в графе пользы для человечества. Хао поддержала эти опасения, описывая опасности быть настолько поглощённым миссией, что реальность игнорируется. «Даже когда доказательства накапливаются, что то, что они строят, на самом деле вредит значительному количеству людей, миссия продолжает всё это скрывать», — сказала Хао. «В этом есть что-то действительно опасное и тёмное, в том, чтобы быть настолько поглощённым системой убеждений, которую вы создали, что вы теряете связь с реальностью.
Часто задаваемые вопросы
Какова основная идеология, движущая империей ИИ, и как OpenAI играет в этом роль?
Основная идеология империи ИИ заключается в создании искусственного общего интеллекта (ОИИ), который принесет пользу всему человечеству. OpenAI является главным евангелистом этой идеологии, распространяя её в индустрии и изменяя подход к созданию ИИ.
Какие критические замечания высказывает Карен Хао в отношении OpenAI и индустрии ИИ?
Карен Хао утверждает, что OpenAI и индустрия ИИ в целом сосредоточены на скорости, а не на эффективности и безопасности. Она также отмечает, что индустрия ИИ захватила ведущих исследователей, что формирует повестку компаний, а не научные исследования.
Каковы экономические затраты на развитие инфраструктуры ИИ, согласно статье?
OpenAI ожидает израсходовать 115 миллиардов долларов наличными к 2029 году. Meta планирует потратить до 72 миллиардов долларов на создание инфраструктуры ИИ в этом году, а Google ожидает капитальные затраты до 85 миллиардов долларов к 2025 году.
Какие негативные последствия индустрии ИИ упоминаются в статье?
Статья упоминает такие негативные последствия, как потеря рабочих мест, концентрация богатства и вред, причиняемый чат-ботами ИИ. Также документируются случаи низкооплачиваемой работы в развивающихся странах, связанной с модерацией контента и маркировкой данных.
Какие альтернативные подходы к развитию ИИ предлагает Карен Хао?
Карен Хао предлагает разрабатывать новые техники в алгоритмах и улучшать существующие, чтобы уменьшить количество данных и вычислений. Она также указывает на примеры, такие как AlphaFold от Google DeepMind, которые предлагают реальные выгоды без значительных негативных последствий.
