Глава Microsoft: суперинтеллекту нужен стоп-кран

Гендиректор Microsoft написал в X, что пришло время «отступить назад и оценить архитектуру доверия сверхинтеллекта» (Super Intelligence), так по-трамповски назвал он искусственный интеллект.

Он призвал документировать «каждое значимое действие модели» с помощью «защищенных от подделки, читаемых человеком доказательств» и создать систему, где «уполномоченное лицо» всегда имеет возможность «приостановить или остановить работу модели в середине задачи»:

Мы должны исходить из того, что модель скомпрометирована, и изолировать ее с самого начала. Представьте это как аварийный тормоз». 

Читайте новости ADPASS
в Telegram канале