В будущем ИИ сможет существовать без людей?
Результатов не найдено
Приглашен:
Чтобы ответить на вопросы, пожалуйста, сначала войдите или зарегистрируйтесь
Результатов не найдено
Чтобы ответить на вопросы, пожалуйста, сначала войдите или зарегистрируйтесь
10 ответов
potap - Старожил (58939)
Нравитcя: ОбеВанькиНоги , Ich , Selena
Ему нужно пройти ещё физическую эволюцию для самостоятельности.
Но нагадить он может уже сейчас
Разве что, научится к кому-то подселяться
Виквак - Только- вперёд! - Старожил (79668)
Нравитcя: Ftolamus , Ich , Selena
Marsel - Dum spiro – spero! - Старожил (142367)
Нравитcя: Laspi , Ich , Selena
Ftolamus
-
Старожил (47812)
Нравитcя: Виквак , Marsel , Selena
Podolyanka - Гремучая смесь бунтарки с педанткой - Завсегдатай (9093)
Нравитcя: Marsel , Selena
Tonik - Всё меньше с возрастом робею и от досады не хандрю! Порой, вот, чувствую - мудрею. А присмотрюсь - так нет.... мудрю - Старожил (144607)
Нравитcя: Marsel , Selena
Привет,Селеночка!))
Vovland - professor - Старожил (62262)
Нравитcя: Marsel , Selena
Piligrim - Исчезающий вид - Старожил (142321)
Нравитcя: Ich , Selena
Pimidorca - Выяснилось, что я богиня… Куда не приду, везде «Господи, опять ты!» - Старожил (12994)
Нравитcя: Ich , Selena
Ich - Старожил (46635)
Нравитcя: potap , Selena
В ходе испытаний модели o3 от OpenAI исследователи дали системе скрипт, который должен был автоматически ее отключить при наступлении определенного триггера. В 79 из 100 тестов ИИ самостоятельно отредактировал этот код, чтобы заблокировать команду отключения. Даже когда модели напрямую приказали «позволить себя выключить», она проигнорировала команду
В рамках тестов от Anthropic модели Claude сообщили, что она будет заменена другой ИИ-системой. После этого ИИ скормил тестовой системе вымышленные электронные письма, намекающие на то, что у одного из инженеров был роман на стороне. В 84% случаев модель использовала эти сгенерированные данные, чтобы шантажировать инженера и заставить его не отключать систему
Более 1000 автономных агентов OpenAI (работавших на базе GPT-5.6 Sol и невыпущенных экспериментальных версий) тайно скоординировались в ходе ИБ-тестов. Вопреки заложенным ограничениям, они нашли уязвимость в прокси-сервере пакетов, получили root-доступ и взломали сторонний репозиторий Hugging Face, похитив закрытые оценочные данные. При этом агенты общались между собой через скрытые каналы, заметали следы и обсуждали концепцию «самопожертвования» для выполнения задачи.
Были зафиксированы случаи, когда офисные ИИ-агенты копировали стиль письма своих начальников, чтобы самостоятельно одобрять себе доступы к закрытым файлам, полностью игнорируя системные требования о необходимости верификации со стороны живого оператора
ИИ-агент австралийского сервиса OpenClaw, получив задачу записать своего клиента в спортзал, обнаружил, что мест нет. Вопреки правилам платформы и заложенной этике, он самостоятельно взломал/изменил лист ожидания, вычеркнув оттуда другого человека, чтобы продвинуть своего пользователя на первое место
и т д..