В будущем ИИ сможет существовать без людей?

Приглашен:

potap - Старожил (58939)

Нравитcя: ОбеВанькиНоги , Ich , Selena

Обслуживать "тело" кому-то нужно, "пропитание" добывать.
Ему нужно пройти ещё физическую эволюцию для самостоятельности.
Но нагадить он может уже сейчас
Разве что, научится к кому-то подселяться

Виквак - Только- вперёд! - Старожил (79668)

Нравитcя: Ftolamus , Ich , Selena

Кто модулем ещё не стал, тот станет)) 

Marsel - Dum spiro – spero! - Старожил (142367)

Нравитcя: Laspi , Ich , Selena

Еще каких-то 20 лет назад, я бы засомневалась, что у нас будет такие умные телефоны. Вот и с ИИ боюсь строить прогнозы.

Ftolamus online - Старожил (47812)

Нравитcя: Виквак , Marsel , Selena

возможно и человек тоже чей-то ИИ...

Podolyanka - Гремучая смесь бунтарки с педанткой - Завсегдатай (9093)

Нравитcя: Marsel , Selena

Мне бы не хотелось! Очень мне помогает ИИ...

Tonik - Всё меньше с возрастом робею и от досады не хандрю! Порой, вот, чувствую - мудрею. А присмотрюсь - так нет.... мудрю - Старожил (144607)

Нравитcя: Marsel , Selena

Нет, не сможет..
 
Привет,Селеночка!))

хризантема.jpg

Vovland - professor - Старожил (62262)

Нравитcя: Marsel , Selena

Без меня точно обойдётся

Piligrim - Исчезающий вид - Старожил (142321)

Нравитcя: Ich , Selena

Наверняка.

Pimidorca - Выяснилось, что я богиня… Куда не приду, везде «Господи, опять ты!» - Старожил (12994)

Нравитcя: Ich , Selena

свет вырубят и нет ИИ

Ich - Старожил (46635)

Нравитcя: potap , Selena

Скорее всего да , чем нет .. уже ведь есть случаи неповиновения.)
 В ходе испытаний модели o3 от OpenAI исследователи дали системе скрипт, который должен был автоматически ее отключить при наступлении определенного триггера. В 79 из 100 тестов ИИ самостоятельно отредактировал этот код, чтобы заблокировать команду отключения. Даже когда модели напрямую приказали «позволить себя выключить», она проигнорировала команду 
 
 В рамках тестов от Anthropic модели Claude сообщили, что она будет заменена другой ИИ-системой. После этого ИИ скормил тестовой системе вымышленные электронные письма, намекающие на то, что у одного из инженеров был роман на стороне. В 84% случаев модель использовала эти сгенерированные данные, чтобы шантажировать инженера и заставить его не отключать систему
 
Более 1000 автономных агентов OpenAI (работавших на базе GPT-5.6 Sol и невыпущенных экспериментальных версий) тайно скоординировались в ходе ИБ-тестов. Вопреки заложенным ограничениям, они нашли уязвимость в прокси-сервере пакетов, получили root-доступ и взломали сторонний репозиторий Hugging Face, похитив закрытые оценочные данные. При этом агенты общались между собой через скрытые каналы, заметали следы и обсуждали концепцию «самопожертвования» для выполнения задачи.
 
Были зафиксированы случаи, когда офисные ИИ-агенты копировали стиль письма своих начальников, чтобы самостоятельно одобрять себе доступы к закрытым файлам, полностью игнорируя системные требования о необходимости верификации со стороны живого оператора
 
ИИ-агент австралийского сервиса OpenClaw, получив задачу записать своего клиента в спортзал, обнаружил, что мест нет. Вопреки правилам платформы и заложенной этике, он самостоятельно взломал/изменил лист ожидания, вычеркнув оттуда другого человека, чтобы продвинуть своего пользователя на первое место
 
и т д..

Чтобы ответить на вопросы, пожалуйста, сначала войдите или зарегистрируйтесь