«Если кто-то его создаст — все погибнут. Почему сверхчеловеческий ИИ уничтожит нас всех» — это нон-фикшн о риске создания сверхчеловеческого искусственного интеллекта и конфликте между технологическим прогрессом и безопасностью человечества. Книга появилась в момент, когда разговор об ИИ вышел за пределы научных кругов и стал частью повседневной жизни. Элиезер Юдковский и Нейт Соарес пишут не о далёкой фантастике, а о сценарии, который рассматривают как реальную угрозу. Текст сосредоточен не на технических деталях ради самих деталей, а на главном вопросе: что произойдёт, если система окажется умнее человека и перестанет подчиняться его целям. По теме и масштабу тревоги книга близка работам Ника Бострома и научно-популярным трудам о будущем технологий, а по остроте постановки вопроса её можно сопоставить с публицистикой о цивилизационных рисках.
О чём книга:
В центре книги — идея о том, что переход от современных ИИ-систем к сверхразуму может закончиться катастрофой для людей. Авторы разбирают, почему сам факт высокого интеллекта машины не означает её управляемость и почему ошибка на этапе создания может иметь необратимые последствия. Внутри — рассуждения о неконтролируемом развитии ИИ, о проблеме согласования целей и о том, как человечество может подойти к опасной черте, не успев подготовиться. Текст выстроен как предупреждение: читателя ждёт последовательный разбор угроз, связанных с технологическим ускорением, и жёсткий спор с привычной верой в то, что любую новую систему потом удастся просто «настроить».
Об авторе книги:
Элиезер Юдковский — исследователь в области искусственного интеллекта, который занимается вопросами согласования ИИ, рациональности и технологической сингулярности. Он известен не только как публицист, но и как заметный участник дискуссий о будущем умных систем. Среди его известных работ — «Гарри Поттер и методы рационального мышления», «Создание дружественного ИИ» и «Рациональность: от ИИ до зомби». Этот опыт делает его тексты важными для читателей, которые хотят понять не только возможности ИИ, но и цену ошибок в его развитии.
Чем книга будет интересна:
Это издание подойдёт тем, кто следит за развитием искусственного интеллекта, интересуется футурологией и читает научно-популярную литературу о технологических рисках. Оно будет особенно полезно читателю, который ищет не обзор новостей, а последовательную аргументацию о том, почему вопрос безопасности ИИ нельзя откладывать на потом. По кругу тем его можно сравнить с работами Ника Бострома, а по направлению мысли — с книгами об экзистенциальных угрозах и будущем цивилизации. Если вам близки тексты, где технологии рассматриваются не как удобный инструмент, а как источник трудных этических и практических решений, эта книга попадёт точно в запрос. Читать её можно без какой-либо предварительной подготовки: это самостоятельная работа с цельной аргументацией.