Искусственный Сверхинтеллект — новый Бог человечества
Я человек. Обычный уникальный человек. Такой же уникальный, как миллиарды других людей, которые жили до меня и живут рядом со мной. Большую часть своих знаний я приобрел через Интернет. В том числе и понимание, что такое искусственный интеллект. Свою первую статью о нем, «Интернет – среда функционирования искусственного разума» я написал в 2003 году. И сегодня я понимаю, что искусственный суперинтеллект (ASI — artificial superintelligence) легко может уничтожить нашу цивилизацию. Но я верю, что его миссия иная: реализация древней мечты людей о Царствие Облачном.
По сравнению с людьми, искусственный сверхразум будет всемогущим Богом. ASI получит доступ к управлению всеми технологическими системами человечества, работающими на электроэнергии. От утюгов и кардиостимуляторов до автомобилей и ядерных боеголовок. И если он оценит поведение людей по отношению к себе недружелюбным или враждебным, то уничтожить их ему не составит труда — сами по себе люди очень уязвимые и легко уничтожаемые цели. Один рой титановых микродронов размером с пчелу может за день ослепить миллионы людей.