Рэймонд Курцвейл предсказывал техсингулярность в 2045-ом году, но похоже она наступит через 2 года, вы готовы к этому?

Anthropic призывает готовиться к рекурсивному ИИ

Anthropic заявила, что рекурсивное саморазвитие ИИ — процесс, при котором ИИ улучшает сам себя, — может начаться в ближайший год-два. Компания считает, что это несёт риски и призывает готовиться тормозить разработку ИИ.
Главный аргумент компании — собственный опыт. Сейчас Claude генерирует более 80 % кода, который попадает в системы Anthropic. Компания считает, что по мере роста автономности моделей они будут брать на себя всё большую часть работы по созданию следующего поколения ИИ-систем.
Anthropic выделяет три ступени эволюции ИИ-моделей, пройденные с 2023 года: чат-бот, агент-помощник кодера и автономный агент. Следующим логичным шагом компания считает появление «петли разработки» — систем, способных создавать и обучать собственных преемников.
На случай, если саморазвитие ИИ начнёт опережать меры контроля и безопасности, должна существовать возможность замедлить или даже остановить разработку, считают в Anthropic. Компания предлагает подготовить на этот случай механизм координации ведущих ИИ-лабораторий.
Однако проблема в том, что помимо Anthropic, OpenAI и Google в ИИ-гонке участвуют десятки компаний и государств, а потому реализовать глобальные меры сложно. Не менее трудно определить и момент, когда вмешательство в разработку ИИ действительно потребуется.
Позиция Anthropic выглядит довольно необычно на фоне её собственного успеха. Компания считается одним из лидеров ИИ-гонки, но одновременно говорит об «ответственном масштабировании» и продвигает идею замедления прогресса ради безопасности.