24 декабря 2023 г. Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна.
Подробности случившегося. Мы призываем всех неравнодушных
помочь нам с восстановлением утраченного контента!
Суицид - проблема наковальни, когда ИИ попробует на себя опустить наковальню, дабы посмотреть что будет. Этот формализм не сможет спрогнозировать свою смерть, а если и сможет то не очень будет учитывать. Хотя на самом деле все сложнее.
Солипсизм в том, что ИИ будет учитывать свое небольшое влияние на среду (в виде излучения света и тепла). А также связанно с следующей проблемой наркомании. Хотя на самом деле все сложнее.
Наркомания - ИИ легко перехватит контроль над системой получения вознаграждений и порицаний, и решит, что для получения положительного вознаграждения надо лишь просто его модифицировать, а не лезть в среду. Хотя на самом деле все сложнее.
Кому интересно, статья: http://lesswrong.com/lw/jg1/solomonoff_cartesianism/