перевод. Anthropomorphic Bias

Склонность к одушевлению.

Когда что-то достаточно универсально в нашей повседневной жизни, мы начинаем воспринимать это как должное и забываем о его существовании.

В каждой известной культуре, люди испытывают радость, печаль, отвращение, злость, страх и удивление, и показывают эти эмоции посредством соответствующих выражений лица. Все мы используем один и тот же механизм под капотом, хотя и можем использовать различные окрасы; принцип, который эволюционные физиологи называют физическим сходством человекоподобных. Это наблюдение является объяснимым и необходимым в механике эволюционной биологии. Мы – люди, забыли, насколько мы похожи, живя в мире, который всё время напоминает нам о наших различиях. Не удивительно, что людям свойственно одушевлять – т.е. ожидать человеческих свойств от того, что не является человеком. Когда мы пытаемся осознать другие умы, каждый шаг на пути познания может быть спутан предположениями, столько обыденными для человеческого опыта, что мы не замечаем их так же, как и воздух или гравитацию.

Каждому, пытающемуся уменьшить склонность к одушевлению в них самих, советуется изучить эволюционную биологию для практики, желательно эволюционную биологию вместе с математикой. Ранние биологи часто одушевляли естественный отбор – они верили, что эволюция сделает то же самое, что и они; они пытались предсказать результаты эволюции, поставив себя на её место. Результат был крайне абсурден. Любые два дизайна ИИ будут меньше отличаться чем вы сами отличаетесь от петунии (цветок). Термин «Искусственный интеллект» ссылается на гораздо большую область возможностей, нежели термин «хомосапиенс». Когда мы разговариваем об ИИ, мы действительно имеем ввиду разум в целом, или оптимизационные процессы в целом.

Исследователи верят, что ИИ будет дружественен, без чёткого представления о конкретных процессах, участвующих в формировании дружественного поведения, или какого-либо подробного понимания, что они имеют ввиду под «дружественностью».

Недооценка силы интеллекта порождает пропорциональное непонимание возможных последствий ИИ, который может одинаково иметь как хорошие последствия, так и плохие.