Про це повідомляє Business Insider з посиланням на роботу, яка опублікована на сайті Інституту вивчення машинного інтелекту (MIRI).
"Якщо штучний інтелект працює в реальному часі під наглядом людини, то колись у оператора може виникнути необхідність натиснути на велику червону кнопку, щоб запобігти виконанню агентом небезпечних для нього або оточення дій", - йдеться в роботі вчених.
Дослідники стверджують, що їм вдалося розробити "фреймворк", який дозволяє оператору багаторазово і безпечно переривати роботу штучного інтелекту. У той же час мета роботи вчених - також упевнитися, що він не зможе знайти способів обійти і запобігти власному аварійному відключенню.