Развитие науки идет с использованием стандартного метода. Сбор исходных данных, построение моделей, тестирование моделей опытами, открытая публикация для проверки сообществом. Все достаточно просто. Выходит ядро науки составляют модели. Примеры моделей известных всем со школьной парты U=I*R или F=m*a. Если модель устаревает и становится неактуальной, она уходит в архив истории.
Попробуем промоделировать развитие искусственного интеллекта, основанного на нейросетях. Математическая модель одного нейрона постоянно совершенствуется и уточняется. Архитектуры нейросетей динамично развиваются. Замечательно, но как показала история весь этот процесс длительный и идет уже не одно десятилетие.
Зададимся вопросом каков дальнейший более-менее оптимальный путь развития искусственного интеллекта? Допустим удастся кое-как сделать нейросеть обладающую разумом. Что если поставить ей задачу постоянно самосовершенствоваться. Запустить своеобразный процесс саморазвития и самосоздания. Теоретически вычислительная мощность нейросети неограниченна, может она попросит ее сделать например размером с дом, город или планету. Интересно о чем она будет думать? Сможет ли этот Сверхразум ответить на вопросы, которые так волнуют человечество: освоение космоса, улучшение генетики, развитие социальных систем.
Биологические нейросети очевидно работают, но поставлены в достаточно жесткие эволюционные рамки. Достаточно простая идея - создать искусственную разумную нейросеть, которая сама подскажет как ее совершенствовать, вместо того чтобы ломать головы из каких деталей лепить терминаторов в стиле Boston Dynamics . Риски конечно есть, но подход делай что должен и будь что будет адекватно описывает текущую ситуацию.