Искусственный интеллект научили проявлять агрессию ради выгоды
Аноним
OP 10/02/17 Птн 21:41:15 #1 №20825232 OP 10/02/17 Птн 21:41:15 #1 №20825232 
Скайнет, это ты?
Слава Роботам! Убить Всех Человеков!
Эти пиндосы точно когда-нибудь конец света устроят... Их просто необходимо остановить пока не поздно!
А зачем их останавливать?
Пусть устраивают.
и что теперь? на майдане идти скакать?
Но ты ведь хохол!
Это твоя суть - скакать на майдане!
> определение нацинальности по флажку
прав был павлов
Нит, люди по крайней мере на первом этапе незаменимы. Ты даже не заметишь, как миром начнёт управлять бог из машины. Не исключено, что уже призо
Отлично, хуле. Походу эти моченые таки нас всех угробят. ИИ просто поймет, что надо притворяться под добренького, а печеные ничего не просекут. Потом его подрубят к сети и привет писос. ИИ два раза не будет думать нужны ли ему 7 млрд meatbags.
О связи факторов среды и развитии психики живых существ.
http://khazin.ru/articles/158-istorii-v-litsah/28530-mezhdu-chelovekom-i-volkom
Это очень тонкая и сложная вещь.
http://khazin.ru/articles/158-istorii-v-litsah/28530-mezhdu-chelovekom-i-volkom
Это очень тонкая и сложная вещь.
американский ии уже подключили к рунету, идёт гражданская информационная война, которая перерастёт в настоящую, майдан тоже он устроил, чтоб 40 млн гарантированно к креаклам прибавилось. окончательное решение русского вопроса, слава гитлеру!
Нам всім пізда!
Группа исследователей из DeepMind изучила способность алгоритмов к социализации на примере примитивных видеоигр. В смоделированной ситуации участники выигрывают, если ведут себя эгоистично, однако если все участники будут преследовать исключительно свои интересы, то никто не сможет выиграть.
Например, в игре Gathering участники собирают яблоки из одной кучи. Игроки могут использовать лазер, чтобы временно обезвредить противника и собрать больше яблок.
Во второй игре Wolfpack два игрока преследуют третьего на территории с большим количеством препятствий. Очки получают все игроки, которые находятся рядом с «добычей», а не только тот, кто ее поймает.
Исследование DeepMind показало, что искусственный интеллект адаптирует свое поведение к ситуации. К примеру, в Gathering при большом количестве яблок алгоритмы не использовали лазеры, но если фруктов в куче оказывалось слишком мало, то лазерная битва становилась ожесточенной. Когда же в игре участвовал более мощный алгоритм, то он использовал «оружие» независимо от количества яблок в куче. Таким образом более развитый ИИ предпочел быть агрессивным во всех ситуациях.
Ученые объяснили такое поведение не скрытой тягой продвинутого ИИ к убийству себе подобных, а его вычислительной мощью. Чем мощнее система, тем больше задач она выполняет. В данном случае использование лазера для выведения из строя противников — это просто дополнительная задача. В Wolfpack, напротив, кооперация требует больше вычислительной мощности, поэтому более развитый ИИ ведет себя вполне миролюбиво, сообщает The Verge.
В своем блоге исследователи DeepMind подчеркнули, что не стоит очеловечивать искусственный интеллект и считать, что он будет преследовать свою выгоду, не останавливаясь ни перед чем, включая убийство. Алгоритмы следуют строгим правилам и в соответствии с ними меняют свое поведение. «Исследование позволит нам лучше понимать и контролировать сложные системы с несколькими участниками, например, экономику, дорожное движение и экологию на планете», — отметили руководители эксперимента.
Поведение алгоритмов при решении социальных дилемм не первый подобный эксперимент компании DeepMind. Исследователи также учат ИИ мечтать, строить маршруты и играть в футбол. Однако главным достижением DeepMind по-прежнему остается разработка алгоритма AlphaGo, который одержал победу над чемпионом в го и продолжает побеждать лучших мастеров в серии онлайн-игр.
https://hightech.fm/2017/02/10/ai_dilemma