В Кембридже изучат опасность научного прогресса для человечества

В Кембридже будет открыт Центр по изучению глобальных рисков, который займется исследованиями искусственного интеллекта, однако исследовать в центре будут не искусственный интеллект как таковой, а ту угрозу, которую он в себе может нести, а также, что нужно сделать, чтобы данной угрозы не допустить.

Фактически в список потенциально опасных, с точки зрения кембриджских учёных, направлений деятельности человека попали все отрасли, вызывающие сегодня повышенный интерес у инвестиционных фондов: разработки в области биотехнологий и искусственной жизни, нанотехнологии, антропогенное изменение климата и искусственный интеллект. Исключением является лишь ядерное оружие.

Новый центр CSER () займется изучением потенциальных угроз человечеству от научной деятельности, исследованием современных тенденций робототехники и попытается выработать решения, в которых роботы будущего, когда станут достаточно умными для автономного мышления, не пришли бы к выводу избавиться от человечества. Другими словами, в CSER будут работать для того, чтобы сюжет фильма «Матрица» не стал когда-нибудь реальностью.

Основателями данного центра являются профессор философии Хью Прайс, профессор астрофизики Мартин Риз из Кембриджа и предприниматель Джаан Таллинн, один из создателей Skype.

В Кембридже говорят, что кому-то их исследования могут показаться надуманными и смешными, однако ученые уверены, что рано или поздно настанет время создания «ультра-интеллектуальных машин», которые смогут обходиться без человека. «Кембриджский проект по глобальным рискам — совместная инициатива философа, исследователя и предпринимателя-программиста — начинается с уверенности в том, что эти проблемы требуют гораздо больше внимания со стороны учёных, чем они получают сейчас. Наша цель заключается в том, чтобы основать внутри Кембриджского университета многосторонний исследовательский центр, посвящённый изучению и уменьшению рисков такого типа», — говорится в заявлении на официальном сайте Центра.

По словам кембриджских ученых, свои концепции они будут базировать не на популярных идеях голливудских фильмов, а на научных работах известных ученых-математиков и инженеров, таких как Алан Тьюринг, Джон Гуд и другие. К работе в центре планируется привлечь не только инженеров, но и математиков, социологов и даже специалистов по философии. Программное заявление основателей CSER было обнародовано в апреле 2012 года, а официальный запуск центра запланирован на 2013 год.