В частности, Economist на днях воспроизвел заявление Марка Уорнера, вице-председателя сенатского комитета по разведке, который утверждал, что генерал Джошуа Радд, возглавляющий АНБ и киберкомандование Пентагона якобы сообщил ему, что Mythos «взломал почти все наши засекреченные системы не за недели, а за часы».

Далее пошел спор – а был ли мальчик (заявлял ли генерал такое), и вроде бы выяснилось, что речь шла не о чьей-то атаке извне, а о собственных тестах на информационную защищенность.

На самом деле, не так и важно. Этот шум сам по себе – хороший повод задуматься о трендах в области ИИ. Сегодня США имеют явное лидерство в ИИ. Китай, все еще сдерживаемый американскими попытками ограничить доступ этой страны к передовым чипам и оборудованию для их производства, возможно, отстает от США примерно на 1 год. И это преимущество может стать необратимым (в обозримом будущем), если Anthropic или кто-то из его американских конкурентов добьется успеха в рекурсивном самоулучшении LLM (RSI), когда модели пишут улучшенные версии самих себя, ускоряя процесс разработки. Многие в отрасли уверены, что это вполне возможно.

ИИ как новая криптография: от шифрования к взлому

Инцидент с Mythos – не рядовой взлом, а демонстрация смены эпох. Если криптография была щитом, то передовой ИИ становится мечом, способным этот щит разрушить. Это сигнал о том, что старые правила игры уходят в прошлое. Мы переходим от мира, где безопасность строилась на математической сложности, к миру, где она зависит от того, у кого в руках более совершенный интеллект.

Гонка вооружений и новый железный занавес

Реакция США была оперативной: доступ к Mythos 5 и Fable 5 заблокировали не только для противников, но и для ближайших союзников из «Пяти глаз». Это создает прецедент, когда доступ к передовому ИИ становится инструментом геополитического влияния, разделяя мир на «своих» и «чужих» задолго до появления AGI.

Гонка саморазвития

Реальной причиной блокировки, судя по всему, стал найденный метод «джейлбрейка». Однако самый тревожный тренд, который подтверждает вся эта история, - это рекурсивное самоулучшение (RSI).

Еще до инцидента Anthropic опубликовала данные о том, что их модели уже демонстрируют признаки RSI, ускоряя собственное развитие. Если этот процесс войдет в полную силу, компания и человечество в целом может потерять контроль над скоростью прогресса, и последствия этого станут поистине непредсказуемыми. Но если американцы попытаются ограничить движение в сторону RSI, то их догонят и, скорее всего, обгонят китайцы.

Пост-ИИ криптография: новый вызов

Говорить о «пост-ИИ криптографии» в том же смысле, что и о «постквантовой», пока рано, но необходимо. Постквантовая криптография - это подготовка к известной угрозе: создаются алгоритмы, устойчивые к квантовым вычислениям. Угроза со стороны ИИ принципиально иная и более глубокая. ИИ не просто взламывает шифры перебором, он может найти уязвимости в логике, архитектуре, воспользоваться человеческим фактором, причем так, как мы пока не можем предвидеть. Это феномен, последствия которого вряд ли возможно осознать во всем их объеме. Это требует не очередной смены алгоритмов, а переосмысления самой концепции цифровой безопасности в мире, где взломщик может оказаться умнее создателя защиты.||

✓ подписаться на tg-канал ART и на канал Бойко про телеком в VK

--

теги: искусственный интеллект криптография шифрование тренды RSI рекурсивное самоулучшение ИИ Anthropic 

--