Стоит ли бояться? Искусственный интеллект GPT4
Дата: 04.04.2023
OPEN AI в рамках испытаний на безопасность, которая проводила компания перед релизом языковой модели четвертого поколения GPT 4, компания позволила тестировщикам провести оценку потенциальных рисков, не допустимого поведения искусственного интеллекта, в том числе к власти , сама произведению, и самосовершенствованию.
Примечание * GPT 4 - чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках.
Особенное беспокойство - это создавать и исполнять долгосрочные планы, накапливать силы и ресурсы, и проявлять поведение, которое является всё более агентским. Под «Агентским» подразумевается достигать независимых целей. ИИИ предупреждали о том, если не контролировать машину должным образом, то она просто разовьётся и наступит катастрофа, может даже и захват всех сетей и устройств, и наступит хаос, как во многих американских ужастиках. Но создатели говорят, что беспокоиться ПОКА не о чем, но и сильно расслабляться тоже не стоит.