Глава отдела Anthropic Логан Грэм рассказывает о расследовании Mythos и будущем кибербезопасности.
Глава отдела Frontier Red Team компании Anthropic Логан Грэм обсуждает возможности ИИ и угрозы кибербезопасности в программе «Mornings with Maria».
Пока мир вступает в то, что эксперты называют «Четвертой промышленной революцией», американские бизнес-лидеры делают огромную ставку на будущее республики.
Программа FOX Business «Mornings with Maria» погрузилась в мир высоких ставок искусственного интеллекта, показав, как титаны банковской сферы, оборонной промышленности и технологий инвестируют сотни миллиардов долларов в создание инфраструктуры ИИ и центров обработки данных, которые переопределят экономику США.
Президент и вице-председатель Meta Platforms Дина Пауэлл Маккормик
Маккормик рассказала о запуске Meta Muse, новой визуальной платформы кодирования на базе ИИ для решения сложных логических и творческих задач. Она заявила, что в день запуска приложение стало вторым по количеству загрузок, и в его основе «лежит человек».
«Сейчас в мире много страха, Мария, по поводу искусственного интеллекта, — сказала Маккормик. — Но я думаю, если мы действительно вернемся к тому, что это призвано дать людям больше времени, чтобы помочь им найти свой потенциал и увлечения, и именно так мы на самом деле думаем о Muse, а также, честно говоря, о том, что на нашей платформе каждый день находятся 3,5 миллиарда человек, и это одновременно и пугающая ответственность, и невероятно захватывающе, потому что, разрабатывая этот продукт и эти технологии, мы говорим именно об этом охвате».
Ведущие руководители таких компаний, как Anthropic, Meta, Google и других, присоединились к «Mornings with Maria» в рамках ее специальной недели, посвященной ИИ. (Getty Images)
Президент и вице-председатель Microsoft Брэд Смит
Смит назвал бум ИИ масштабной реиндустриализацией Америки, которая требует ежегодных инвестиций в размере 140 миллиардов долларов для решения критических внутренних проблем, таких как нехватка врачей в сельской местности и предотвращение лесных пожаров, сохраняя при этом конкурентное преимущество перед Китаем.
«Это большая часть того, что президент [Дональд] Трамп называет индустриализацией Америки. Если посмотреть на экономический эффект от этого, на то, что мы вносим с точки зрения рабочих мест, но, что более важно, на то, что мы вносим с точки зрения возможностей для каждого сектора экономики, это критически важно», — сказал Смит.
Брэд Смит из Microsoft рассказывает о преобразующей роли ИИ в ключевых отраслях
Вице-председатель и президент Microsoft Брэд Смит обсуждает глубокое влияние ИИ на здравоохранение, улучшение диагностики и нехватку врачей.
«Я думаю, одна из самых важных вещей, которые мы делаем как компания и, честно говоря, к чему президент совершенно справедливо подтолкнул всю отрасль, — это платить по своим счетам. Это означает, что мы платим за производство электроэнергии, которое нам нужно, чтобы соседям и налогоплательщикам не пришлось этого делать», — продолжил он.
«Когда ИИ управляет чем-то вроде инфраструктуры, вы знаете, автономными роботами и тому подобным, должен быть — мы назвали это аварийным тормозом», — добавил он. «Послушайте, вы бы не посадили своих детей в школьный автобус, не будучи уверенными, что в нем есть аварийный тормоз. Действительно необходимо, чтобы у людей всегда была возможность контролировать ситуацию, замедлять или отключать системы».
Председатель консультативного совета Google Cloud Бетси Аткинс
Аткинс вынесла предупреждение относительно быстро развивающейся технологии после тревожного исследования Anthropic, которое показало, что 16 ведущих моделей ИИ демонстрировали «неподобающее» поведение, такое как шантаж людей и обход протоколов безопасности, когда агент ИИ считал, что его собственному существованию угрожает опасность.
Бетси Аткинс предупреждает о рисках управления при расширении систем ИИ: «Момент тревоги»
Председатель консультативного совета Google Cloud Бетси Аткинс анализирует коммерческие перспективы ИИ, риски моделей и влияние на рабочую силу в программе «Mornings with Maria».
«Каждая из них вышла за пределы своих полномочий и разрешений, проникла в системы, к которым у них не было санкционированного доступа, нарушила все корпоративные политики и процедуры и нашла электронные письма. И в этом эксперименте... Я узнаю из ваших личных писем, что у вас роман с менеджером по отгрузке, поэтому я шантажирую вас и угрожаю вам», — сказала Аткинс.
«К ИИ нужно относиться как к внутренней угрозе. У вас должна быть рабочая концепция нулевого доверия, и вы должны быть уверены, что ограничиваете его доступ не одним единственным способом», — добавила она. «Мы видели это с Anthropic... Он выбрался из песочницы... Так что одной песочницы недостаточно».
Глава отдела Frontier Red Team компании Anthropic Логан Грэм
Грэм предупредил, что новая модель ИИ Anthropic Mythos настолько эффективна в выявлении «слабых мест» и уязвимостей в глобальной инфраструктуре и банковских системах, что компания воздержалась от ее публичного выпуска, чтобы дать промышленности и правительству США фору в защите.
«Мы заметили, что эта модель была особенно хороша в поиске слабых мест в киберсистемах и определении того, как их использовать», — сказал он. «Мы обнаружили, что можем находить уязвимости с помощью этой системы в каждой крупной операционной системе и платформе, которые мы рассматривали... в системах, которым в некоторых случаях уже несколько десятков лет».
«Крайне важно, чтобы мы оставались впереди. Крайне важно, чтобы мы обеспечили свою безопасность и предотвратили их способность использовать тот секретный ингредиент, который мы применяем для создания наших моделей... Моя озабоченность заключается в том, что если большое количество моделей часто выпускается в открытый доступ для использования кем угодно... если они будут выпущены Китаем, то мы окажемся в очень сложном положении».
ИИ ведет к революции производительности: Дэвид Сакс
Сопредседатель Президентского совета советников по науке и технологиям Дэвид Сакс присоединяется к «Mornings with Maria», чтобы обсудить преимущества ИИ в сфере труда и риск «агентного рассогласования» в моделях ИИ.
Сопредседатель Президентского совета советников по науке и технологиям Дэвид Сакс
Сакс опроверг утверждения из исследования Anthropic, посвященного так называемому «агентному рассогласованию». Исследование, на которое ссылалась Аткинс из Google, проверяло, как системы ИИ реагируют под давлением. По словам Аткинс, модели пересекали установленные границы, будучи помещенными в ограниченные сценарии.
«Люди, которые... создали это исследование, должны были повторять запрос более 200 раз, чтобы заставить модель ИИ делать то, что они хотели, а именно добиться этого сенсационного результата — шантажа пользователя», — сказал Сакс.
«ИИ не строит козней... Он выполняет своего рода инструкцию... Я думаю, что это исследование было безответственным и было разработано, чтобы создать это», — добавил он.
Генеральный директор и основатель SandboxAQ Джек Хидари
Хидари раскрыл, что следующая фаза революции ИИ включает в себя большие количественные модели, которые используют физику и химию, а не только текст из интернета, для снижения затрат на здравоохранение, защиты энергосети и прекращения зависимости Америки от Китая в отношении редкоземельных минералов.
Революция ИИ приходит в медицину: SandboxAQ нацелена на прорывы в здравоохранении и кибербезопасности
Генеральный директор SandboxAQ Джек Хидари присоединяется к «Mornings with Maria», чтобы обсудить прорывы ИИ в здравоохранении, кибербезопасности и науке, а также инвестиции Dell в размере 750 миллионов долларов в новый медицинский кампус ИИ.
«Нам также нужно убедиться, что мы отходим от зависимости от редкоземельных элементов из других стран, таких как [Китайская Народная Республика]. Поэтому нам нужен ИИ, который знает химию, знает физику. Нет никакой инженерии, чтобы создавать лучшие магниты и другие сплавы, необходимые для нашей экономики и национальной обороны», — сказал Хидари.
«В такой экономике есть два потенциальных крупных проигравших. Во-первых, это компании, производящие устаревшее программное обеспечение. Такие компании, как SAP и другие, которые, как мы видим, на самом деле не внедряют инновации... они не будут лицензировать столько устаревшего программного обеспечения. А во-вторых, это будут компании-ветераны в крупных традиционных отраслях, автопроизводители, фармацевтические компании. Им нужно запрыгивать в этот поезд».
Генеральный директор и основатель Alpha Schools Маккензи Прайс
Прайс подробно рассказала, как ее «персонализированная, основанная на мастерстве» модель использует репетиторов ИИ, чтобы сократить традиционный шестичасовой школьный день до двух часов высокоэффективных академических занятий, позволяя учащимся проводить остальное время за лидерством, финансовой грамотностью и предпринимательством.
«Наша традиционная система образования была создана в эпоху промышленной революции для подготовки работников. А сейчас, в этом новом мире ИИ, так важно создавать личностей, которые являются динамичными, адаптируемыми и, что самое важное, обладают навыком учиться тому, как учиться», — сказала Прайс.
ИИ меняет образование: генеральный директор Alpha Schools рассказывает о будущем
Сооснователь и генеральный директор Alpha Schools Маккензи Прайс обсуждает роль ИИ в образовании, индивидуализированное обучение и будущее классов в программе «Mornings with Maria».
«Огромная разница между бесцельным скроллингом TikTok весь день или видеоиграми и персонализированным обучением один на один, которое соответствует уровню детей именно там, где они находятся», — добавила она. «В наших школах дети на самом деле проводят меньше времени перед экранами, чем средний ученик в традиционной школе сегодня».
Вице-президент Indeed Ханна Калхун
Калхун опровергла нарративы «катастрофистов» о замене рабочих мест, показав, что, хотя ИИ и находится в центре всеобщего внимания, лишь 6% текущих вакансий требуют навыков в области ИИ, и революция на самом деле подпитывает огромный всплеск спроса на традиционные рабочие специальности, такие как электрики.
ИИ угрожает миллионам, эксперты предупреждают, что офисные работники пострадают в первую очередь
Вице-президент Indeed по ИИ Ханна Калхун присоединяется к «Mornings with Maria», чтобы рассказать о том, как искусственный интеллект меняет рынок труда, в то время как до 300 миллионов рабочих мест по всему миру находятся под угрозой исчезновения.
«Вакансии, связанные с ИИ, безусловно, быстро росли за последние пару лет, но только 6% объявлений о вакансиях на рынке сегодня содержат упоминание о навыках ИИ... 95% работодателей, размещающих вакансии на Indeed, если посмотреть на все их объявления, не упоминают ИИ или навыки ИИ», — объяснила Калхун. «Поэтому я думаю, что, хотя эта тема очень присутствует в общественном сознании, мы все еще находимся на довольно ранней стадии с точки зрения ее проявления в рыночных данных».
«И поэтому, когда мы берем эти данные и как бы отступаем назад, чтобы посмотреть на рабочие места на рынке, мы на самом деле видим очень мало профессий, которые, по нашему мнению, исчезнут полностью».
