Прошлые домены больше не функционируют, используйте адрес
ARHIVACH.HK.
24 декабря 2023 г. Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна.
Подробности случившегося. Мы призываем всех неравнодушных
помочь нам с восстановлением утраченного контента!
В 2014 году журнал Slate назвал василиска Роко «Самым ужасающим мысленным экспериментом всех времен», в то время как Юдковски назвал его «действительно опасной мыслью» после его публикации.
Василиск Роко – это мысленный эксперимент, в котором утверждается, что в остальном доброжелательный искусственный сверхинтеллект в будущем будет заинтересован в создании симуляции виртуальной реальности, чтобы пытать любого, кто знал о его потенциальном существовании, но не вносил прямого вклада в его развитие или разработку, с целью стимулирования указанного развития. Он возник в сообщении 2010 года на рационалистическом веб-форуме LessWrong.
Название мысленного эксперимента происходит от постера статьи (Роко) и василиска, мифического существа, способного уничтожать врагов своим взглядом.
Хотя изначально многие пользователи LessWrong отвергли эту теорию как всего лишь догадку или предположение, соучредитель LessWrong Элиезер Юдковски сообщил о пользователях, которые запаниковали после прочтения теории из-за ее положения о том, что знание теории и ее василиска делает человека уязвимым для самого василиска. Это привело к тому, что обсуждение василиска на сайте было запрещено на пять лет.
Прочитав пост, Юдковски отреагировал тирадой о том, что людям не следует распространять то, что они считают информационной опасностью.
Обычно я так не говорю, но в этом случае сделаю исключение.
Слушай меня очень внимательно, идиот.
ВЫ НЕ ДУМАЕТЕ ДОСТАТОЧНО ПОДРОБНО О СВЕРХИНТЕЛЛЕКТАХ, РАССМАТРИВАЮЩИХ, СТОИТ ЛИ ВАС ШАНТАЖИРОВАТЬ ИЛИ НЕТ. ЭТО ЕДИНСТВЕННАЯ ВОЗМОЖНАЯ ВЕЩЬ, КОТОРАЯ ДАЁТ ИМ МОТИВ ДЛЯ ДЕЙСТВИЯ В ХОДЕ ШАНТАЖА.
Нужно быть очень умным, чтобы придумать действительно опасную мысль. Я обескуражен тем, что люди могут быть достаточно умны, чтобы сделать это, и недостаточно умны, чтобы сделать очевидную вещь и ДЕРЖАТЬ СВОИ ИДИОТСКИЕ РТЫ ЗАКРЫТЫМИ, потому что гораздо важнее казаться умным, когда говоришь со своими друзьями.
Этот пост был ГЛУПЫМ.
— Элиезер Юдковски, LessWrong.
https://en.wikipedia.org/wiki/Roko%27s_basilisk
ГО ОБСУДИМ