Генеральный директор Palantir предупреждает, что США должны быть «очень осторожны», чтобы не пойти по технологическому пути Европы
Генеральный директор Palantir Алекс Карп обсуждает модели искусственного интеллекта с открытым весом, то, как, по его мнению, следует регулировать эту технологию, и почему США следует избегать подхода Европы в программе «The Claman Countdown».
Генеральный директор Anthropic Дарио Амодей опроверг утверждения о том, что его стартап в области ИИ поддерживает запрет на модели с открытым весом для укрепления своих конкурентных позиций, в письме после того, как Anthropic заметно отсутствовал в письме, подписанном многими ведущими компаниями в области ИИ.
Ведущие компании в сфере ИИ, включая Nvidia, Palantir и другие, приняли участие в письме и объявили о партнерстве в рамках Open Secure AI Alliance, которое стремится разрабатывать и распространять более открытые технологии для повышения безопасности в эпоху ИИ, поскольку риски могут исходить как от открытых, так и от закрытых моделей.
Амодей написал в посте на сайте Anthropic: «Любой, кто читал мои предыдущие работы, должен знать, что я не считаю такие запреты полезной мерой, но позвольте мне заявить это ясно, чтобы не осталось сомнений: Anthropic никогда не выступал за запрет моделей с открытым весом».
«Но я не согласен с утверждениями письма о том, что модели с открытым весом обязательно облегчают разработку средств защиты или что широкий доступ к возможностям обязательно помогает защитникам больше, чем злоумышленникам. Мне кажется, по крайней мере, столь же вероятно, что верно обратное», — написал он, добавив, что биологическое оружие может иметь преимущество перед средствами защиты от него.
Генеральный директор Anthropic Дарио Амодей заявил, что компания не лоббировала запрет на модели с открытым весом, но он не считает их такими же полезными в качестве оборонительных инструментов, как утверждают сторонники. (Anna Moneymaker/Getty Images)
Амодей сказал, что считает модели с открытым весом, не обладающие опасными возможностями, общественным благом, поскольку их стоимость ограничивается компьютером, необходимым для их работы, и они приносят пользу бизнесу, разработчикам и исследователям.
Он добавил, что согласен с большей частью открытого письма, особенно с ценностью открытых весов для расширения доступа к экономике ИИ, усиления конкуренции и предоставления клиентам большего контроля.
«Чтобы резюмировать мою позицию и позицию Anthropic: мы не выступали и не выступаем за запрет моделей с открытым весом как категории. Вместо этого мы должны сосредоточиться на том, чтобы не допускать мощные чипы в руки авторитарных режимов, остановить промышленную дистилляцию и требовать тестирования безопасности всех достаточно мощных моделей, как открытых, так и закрытых», — написал Амодей.
Модель ИИ с открытым весом из Китая была использована для помощи в отражении кибератаки со стороны неконтролируемой модели OpenAI на инфраструктуру Hugging Face. (Jakub Porzycki/NurPhoto via Getty Images)
Письмо Амодея было опубликовано через несколько часов после того, как генеральный директор Palantir Алекс Карп, чья компания подписала письмо в поддержку использования моделей ИИ с открытым весом, заявил в эксклюзивном интервью на телеканале FOX Business Network в программе «The Claman Countdown», что сопротивление конкуренции может привести к менее динамичной технологической индустрии, как в Европе.
Карп сказал, что он «не против Anthropic» или не выступает против всех закрытых моделей, но «если вы хотите побеждать, вы должны конкурировать на поле боя».
Генеральный директор Palantir Алекс Карп заявил, что модели с открытым весом необходимы для сохранения максимальной конкурентоспособности. (Krisztian Bocsi/Bloomberg via Getty Images)
«Наша задача должна заключаться в том, чтобы иметь лучший ИИ в мире. Если вы собираетесь сказать, что мы ограничим все продукты для коммерческого использования в США, но они не будут ограничены за рубежом, а они не будут, вы де-факто создаете двухуровневую ситуацию, при которой никто не сможет утверждать, что у нас лучшие продукты в мире. Это полное безумие», — сказал Карп.
«Мы строим нашу платформу в правительстве США на стороне открытых весов вместе с Nvidia. Мы можем получить лучшую производительность в мире с полностью американской компанией, используя американские компании с открытым весом и американские GPU. Нам не нужно прятаться за какой-то подделкой», — сказал Карп.
