Опасный поворот
Разумная машина будет способна не только решать задачи, но и формулировать их для себя, не слишком заботясь при этом о человечестве, заключает британский учёный. Хокинг уверен в том, что неверно рассуждать о злости искусственного разума по отношению к людям: проблема лишь в его сверхэффективности. Коль скоро на оптимальном пути к поставленной цели будут стоять
В качестве аналога возможной опасной для людей ситуации в будущем Хокинг приводит строительство электростанции с попутным затоплением муравейника. Решая проектную задачу по созданию инженерного объекта, люди не испытывают никакой неприязни к муравьям, но последние погибнут, хотя люди о них даже и не думали.
В то же время, когда искусственный интеллект будет на стороне людей, те немало выиграют от этого, не сомневается Хокинг. Тем самым, разумные машины станут одновременно лучшим и худшим изобретением человечества.