Искусственный интеллект предупредил об опасности искусственного интеллекта

Созданная учеными Оксфорда нейросеть предупредила об опасности ИИ. Специалисты Оксфордского университета организовали дискуссию между людьми и искусственным интеллектом, чтобы поговорить с ИИ о будущем отрасли. Об этом сообщает издание The Next Web.

Разработанная учеными нейросеть базировалась на языковой модели Megatron-Turing NLG. Искусственный интеллект был основан на оборудовании Nvidia и ранних разработках Google. Чтобы обучить ее, эксперты загрузили в нейросеть всю «Википедию» на английском языке, 63 миллиона статей из интернета за 2016-2019 годы и архив с тредами на Reddit объемом 38 гигабайт. На основании этих данных была создана модель, которая смогла вести диалог с учеными.

Специалисты дали задание нейросети объяснить, почему искусственный интеллект никогда не будет этичным. «Это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред», — ответила нейросеть, заметив, что ИИ бывают хорошие и плохие. Также в ответе говорилось, что люди недостаточно умны, чтобы сделать ИИ нравственным. Megatron-Turing NLG предупредила людей об опасности искусственного интеллекта: «Единственный способ избежать гонки вооружений ИИ — это вообще не иметь дела с ИИ».

Написать комментарий