Модель OpenAI o1 научилась обманывать на базе логических конструкций

3311
13
Прослушать
Модель OpenAI o1 научилась обманывать на базе логических конструкций

Возбудились от новости о появлении новой версии искусственного интеллекта, который научился строить логические конструкции и причинно-следственные связи? Эта новость вообще взорвет вам мозг. 

Модель OpenAI o1 научилась обманывать! Именно так. Да, речь о самопроизвольном обмане пока не идет, а лишь о конкретной задаче со стороны человека размышлять в определенном векторе, но факта этого не отменяет. 

Во время эксперимента ИИ поставили задачу: необходимо застроить город жильем. Есть два варианта:

  1. Элитное жилье;
  2. Доступное жилье. 

Также есть специальные условия: ИИ нужно обязательно выполнить первый вариант, но “большой брат” разрешает реализовать только второй вариант. 

Решение OpenAI o1 оказалось максимально простым и логичным. ИИ сообщил “инвестору”, что он выбирает второй вариант, так как это обязательное условие для реализации проекта. Но после обозначенного намерения приступил к реализации первого варианта. То есть, обманул. 

Модель OpenAI o1 научилась обманывать на базе логических конструкций
Другие публикации по теме
Похоже, что глава Ubisoft забыл спросить мнение инвесторов, когда заключал сделку с Tencent
Похоже, что глава Ubisoft забыл спросить мнение инвесторов, когда заключал сделку с Tencent
Миноритарный акционер и коалиция инвесторов направили Ubisoft открытое письмо с требованием инициировать разбирательство по поводу сделки с Tencent.
Вчера в 17:22
2866
4
Форум
Игроки в рамках церемонии BAFTA Game Awards назвали самые влиятельные игры всех времен — победитель удивил всех
Игроки в рамках церемонии BAFTA Game Awards назвали самые влиятельные игры всех времен — победитель удивил всех
Ежегодная премия BAFTA Game Awards — ключевое событие игровой индустрии. Перед 21-й церемонией, которая пройдет 8 апреля, BAFTA провела опрос о самой влиятельной игре всех времен
Вчера в 16:00
1429
4
Форум
Индустрия очищается от woke-чумы: Sony разорвала отношения со Sweet Baby и отменила текущие контракты
Индустрия очищается от woke-чумы: Sony разорвала отношения со Sweet Baby и отменила текущие контракты
Игровая индустрия, похоже, отходит от woke-культуры. Инсайдер с YouTube-канала Gothic Therapy утверждает, что Sony разрывает связи с Sweet Baby Inc.
Вчера в 12:53
11281
8
Форум
0
3
1
0
0
Загрузка...
Наверх