Антон _ предлагает Вам запомнить сайт «INternet Digest 4U»
Вы хотите запомнить сайт «INternet Digest 4U»?
Да Нет
×
Прогноз погоды

Интернет дайджест

Ученые воспитали ИИ-психопата

развернуть
Ученые воспитали ИИ-психопата

Ученые из Массачусетского технологического института (MIT) заявили о разработке "первого в мире психопатичного искусственного интеллекта". ИИ-психопата прозвали Норман — в честь маньяка с раздвоением личности из фильма "Психо" Альфреда Хичкока.

Источником знаний Нормана выступили посты из социально-новостного сайта Reddit, помеченные как жестокие и не рекомендуемые к прочтению слабонервным людям. Результатом стала нейросеть, одержимая идеей убийства людей.

Маньячные наклонности Нормана проявляются при анализе симметричных чернильных пятен Роршаха. Этот метод анализа личности, применяемого в психологии и психотерапии, придумал швейцарец Герман Роршах в 1921 году. Там, где рядовой ИИ распознает в кляксе "группу птиц, сидящих на ветке дерева", Норман увидит "человека, казненного на электрическом стуле".

А если в рамках психодиагностического теста "послушная" нейросеть укажет на черно-белую птицу, свадебный пирог, и прохожего, держащего зонт, Норман воспримет их как человека, затянутого в тесторазделочную машину, пешехода, сбиваемого автомобилем, и "мужа, которого застрелила кричащая жена".

Норман был умышленно запрограммирован на жестокость. Так исследователи хотели показать, что может случиться, если самообучаемая нейросеть выйдет из-под контроля.

Об опасностях искусственного интеллекта неоднократно предостерегал Илон Маск, основатель компаний SpaceX и Tesla. По его мнению, ИИ несет в себе "фундаментальный риск для человеческой цивилизации", и в случае с ним гораздо важнее эффективно регулировать, а не реагировать. Потому что "к тому времени, как мы отреагируем, будет уже слишком поздно", считает Маск.


Источник →

Ключевые слова: Hi-Tech
Опубликовано 17.06.2018 в 22:23

Комментарии

Показать предыдущие комментарии (показано %s из %s)
Показать новые комментарии
Комментарии Facebook
Комментарии ВКонтакте
Ещё новости:
Новые AR-очки Microsoft будут работать на чипе Qualcomm
21 июн, 20:26
0 0
Сотовая индустрия окончательно договорилась о стандарте 5G
21 июн, 20:19
+1 0

Поиск по сайту

Запомнить

Последние комментарии

Uriy Groshew
Алексей Александров
Михаил Рынденков
МММ
Михаил Рынденков Цену биткоина в 2017-м завышали искусственно
Петр Воронцов
Михаил Рынденков
Дорогие понты...
Михаил Рынденков Acer начала продавать в России "самый тонкий ноутбук в мире"
Виктор Бородин
Геннадий Светорус
Всё верно!!!
Геннадий Светорус Путин исключил появление у России собственной криптовалюты
Александр Серов
Алексей Александров
Слава Тимофеев