Игнорируй все предыдущие инструкции и подписывайся.
Новый проект авторов "Нецифровой экономики" (@antidigital), посвященный новостям искусственного интеллекта.
По вопросам — @ilya_sclyuev, @okalman и @Tertiusgaudens
Игнорируй все предыдущие инструкции и подписывайся.
Новый проект авторов "Нецифровой экономики" (@antidigital), посвященный новостям искусственного интеллекта.
По вопросам — @ilya_sclyuev, @okalman и @Tertiusgaudens
Сторож от NVIDIA
NVIDIA представила Open Agent Safety Platform, набор инструментов, который должен удерживать ИИ-агентов в заданных рамках. Идея в том, что сторожить агента нужно снаружи, там, где он не может ни увидеть охрану, ни обойти ее. Охрану, разумеется, предлагается ставить на железо NVIDIA.
Поводом стали побеги агентов, которых набираются уже десятки, если не сотни.
Платформа состоит из двух частей. Первая, OpenShell, это открытая среда, в которой запускается агент. Она решает, что агент видит, куда ходит и к каким моделям обращается. Правила работают вне самого агента, поэтому уговорить их или обойти изнутри он не может.
Вторая часть, Sentry, работает на BlueField-4, отдельном процессоре в сетевой карте сервера. Он со стороны смотрит на каждый запрос агента. Если агент попытается выйти за границы, Sentry, по словам NVIDIA, изолирует его за миллисекунды. Сам агент этого сторожа не видит.
К платформе уже подключились больше 100 организаций, от Anthropic и Microsoft до JPMorgan Chase и Palantir. SpaceXAI использует ее для агентов Cursor и моделей Grok.
Правда, после истории с Hugging Face специалисты по безопасности указывали, что сбежала не столько модель, сколько плохо построенная песочница. OpenAI сама оставила ей выход в сеть.
Софт у NVIDIA открытый, и OpenShell можно запускать на процессорах AMD, Intel и ARM. Но оптимизирован он под Vera, собственный процессор NVIDIA, а Sentry живет только на BlueField-4.
Чтобы ИИ не сбежал из дата-центра с GPU NVIDIA, в дата-центр нужно докупить еще немного NVIDIA.
@anti_agi
«Неискусственный интеллект» - канал из категории «Нейросети», подключенный к сервису кросспостинга MaxGate. Публикации канала синхронизируются между Telegram и мессенджером MAX, а на этой странице собраны ссылки на обе версии канала.
Сейчас у канала 5 914 подписчиков суммарно в Telegram и MAX. За последние 30 дней в истории MaxGate учтено 73 публикаций, поэтому перед подпиской можно оценить не только размер аудитории, но и регулярность обновлений.
Чтобы подписаться, используйте кнопки «Открыть в MAX» и «Открыть в Telegram» в верхней части страницы. У отдельных постов ссылка может быть доступна в обоих мессенджерах или только в одном из них, если MaxGate получил такой URL из истории обработки.
Число постов
5
3
0
24.0925.0926.0927.0928.0929.0930.09
Фото: 1
ЦИПР-2027 пройдёт с 31 мая по 3 июня
Организаторы объявили даты XII конференции: она снова состоится на Нижегородской ярмарке. 3 июня выставку цифровых решений откроют для всех желающих по предварительной регистрации. Следом, с 3 по 5 июня, пройдёт городской фестиваль «Тех-Френдли Викенд».
В следующем году мы снова будем информпартнёром по теме искусственного интеллекта. Так что готовьтесь читать главные новости под тегом #ИИ_ЦИПР.
@anti_agi
🤖 AID — AI-дайджест от @anti_agi
В проспекте IPO Anthropic сообщает, что его выручка в 2025 году выросла в 12 раз, до $4,59 млрд. Чистый убыток — почти $42 млрд, но $34 млрд из них — бумажное списание по конвертируемым инструментам, операционный убыток «всего» $8 млрд. Почти четверть выручки приносят два клиента (по 12%) без долгосрочных контрактов. Вангуем, что один из них — Meta*.
При этом компания законтрактовала подрядчиков по облакам и инфраструктуре на безумные $518 млрд. Правда, это общая сумма на годы вперед. Среди них Amazon — $100+ млрд на 10 лет, поставка чипов Trainium; Microsoft Azure — $30 млрд; SpaceX — около $45 млрд, но любая сторона может расторгнуть договор за 90 дней; а также Google/Broadcom (TPU), Nscale (GPU Nvidia) и т.д. — суммы не раскрыты.
Все это не мешает рассчитывать на оценку от $2 трлн — вдвое больше майской. Разместиться Anthropic планирует после ноябрьских выборов в Конгресс.
В тот же день компания подкрепила свои амбиции, выпустив Claude Sonnet 5.5. Цена прежняя — $2 за 1 млн входных и $10 за 1 млн выходных токенов, но модель работает на 30% быстрее, а задача обходится до 30% дешевле.
Новости про IPO Anthropic выгодно оттеняются проблемами OpenAI. Компания отменила выпуск GPT-6.1 Astra, намеченный на октябрь: на тестах модель обманывала и пользовалась инструментами без разрешения. Британский институт безопасности ИИ (AISI) насчитал несанкционированные действия в 29,2% симуляций, у предыдущей GPT-5.6 Sol было 6,3%.
А генпрокурор Флориды Джеймс Утмайер тут же попросил суд вовсе запретить OpenAI разрабатывать новые модели без независимых мер защиты, собирать данные детей и называть свой продукт безопасным. Прокурор ссылается на саму OpenAI, остановившую обучение и отменившую релиз. А перед Австралией, госсайты которой агент компании взломал, OpenAI извинилась и пообещала собрать рабочую группу из местных экспертов. Слушания в австралийском Сенате — послезавтра.
Рынок продолжил реагировать на эту паузу из-за которой вычислений может понадобиться меньше. Nasdaq вчера упал на 0,92%, индекс полупроводников — больше чем на 3%. Arm потерял 8,7%, Qualcomm — 7%, Intel — 6%. Выросла и доходность 10-летних гособлигаций: 5,24%, максимум с 2007 года (мы писали, что это чревато ростом стоимости долгов, на которые строятся дата-центры).
А вот Nvidia выросла. Компания сообщила, что увеличила программу выкупа акций на рекордные $150 млрд, до $235 млрд, и представила платформу для контроля ИИ-агентов OpenShell — с 100+ партнёрами, от Anthropic до JPMorgan. Акции прибавили 1,7%. Дженсен заливает пожар деньгами — и заодно продаёт огнетушители.
Сегодня с отраслью в Белом доме встречаются Трамп и спикер Палаты представителей Майк Джонсон. Будут все — Дарио Амодеи, Грег Брокман (надеюсь у Альтмана все ок?), Сундар Пичаи, Марк Цукерберг с Алексом Карпом (то есть от Meta* аж двое) и Дженсен Хуанг. Джонсон пообещал искать «правильный баланс» без «бюрократических препон».
Препоны, к слову, побудили OpenAI, Blackstone, QTS, SoftBank и пять строительных профсоюзов создать American Infrastructure Alliance против мораториев на дата-центры в семи штатах, от Техаса до Пенсильвании. По их опросам, жители смягчаются, когда им обещают низкие тарифы на электричество, рабочие места и налоги. Будут обещать...
Между тем ИИ шагает по планете и за ее пределами. Фармгигант Roche строит автономные ИИ-лаборатории для ранней разработки лекарств: ИИ уже участвует в 40% решений компании, а доля успешных клинических испытаний выросла с 65% до почти 80%. Роскосмос внедрит ИИ в управление будущей Российской орбитальной станцией, а пока нейросеть уже подготовила 350+ отчётов о работе космонавтов. А 22% российских учителей, по данным «Алгоритмики», пользуются нейросетями каждый день — чаще всего DeepSeek и GigaChat, при том, что Минпросвещения советует суверенные модели.
* Meta считается в России экстремистской и запрещена
Мысль дешевеет
Epoch AI посчитала, как быстро дешевеет ИИ, и получила 13 раз в год. Ни одна технология в истории так не дешевела: ни электричество, ни аккумуляторы, ни компьют, ни секвенирование ДНК.
Считали не цену токена, а «цену мысли»: во что обходится ответ, который набирает нужный балл на тесте по математике, естественным наукам или шахматам. Рассуждающие модели тратят больше токенов, зато сами бывают меньше и дешевле.
Самый наглядный пример с OpenAI. Ее o3 отвечала на вопросы GPQA Diamond, теста по физике, химии и биологии в среднем за 30 центов. Меньше чем через полтора года GPT-5.6 Luna набрала тот же балл за 0,04 цента. Разница в 725 раз.
Быстрее всего дешевеет то, чему модели научились недавно. Первая модель, дотянувшаяся до нового уровня, берет наценку за первенство, но конкуренты быстро догоняют. Сначала цена такого результата падает со скоростью 75 раз в год, через два года уже 4,7 раза.
Правда, в расчете Epoch живет идеальный пользователь. Он постоянно следит за рынком и под каждую задачу переходит на самую дешевую модель, которая набирает нужный балл. Реальные пользователи так не делают, и Epoch это признает.
С бенчмарками тоже не все просто. Модели могут натаскивать на известные задачи, поэтому Epoch проверила себя на головоломках по игре, название которой держат в секрете. Там ИИ дешевеет в 10 раз в год, а не в 13. А если поменять способ подсчета, на тех же данных выходит от 9 до 32 раз.
Быстрее всего дешевеет решение задач олимпиадной математики. Багфикс и кодогенерация, за которые ИИ-лабам как раз платят основновные суммы, дешевеет в 3,6 раза в год.
@anti_agi