Искусственному интеллекту не хватает только осознанности, чтобы сравняться с человеческим. Ложь, сознательное искажение действительности для манипуляций, как раз относится к сложным психологическим феноменам. Может ли ИИ-система овладеть таким же навыком и если да, то насколько легко вывести ее на чистую воду и перевоспитать? Этим вопросом задалась группа ученых во главе с Эваном Хьюбингером из Anthropic — второго в мире по объему привлеченных инвестиций ИИ-стартапа после OpenAI.
Anthropic
Редакция ADPASS
15.01.2024
ИИ врет как дышит: обученную обману нейросеть уже не исправить
Редакция ADPASS
30.10.2023
Война искусственных интеллектов: Google, Amazon и Anthropic против Microsoft и OpenAI
Конкуренция за обладание лучшими ИИ-технологиями в мире ужесточается. Google обещал инвестировать в стартап Anthropic, развивающий нейросеть Claude, $2 млрд, глядя на Amazon, который дает $4 млрд. Заявленные вложения Microsoft в OpenAI — $11 млрд. Google и Amazon привлекает большая управляемость и безопасность для человека, чем у ChatGPT, нейросети Claude. Госрегуляторы и встревоженное общество хотят от ИИ того же.