БД РИНЦ https://elibrary.ru/item.asp?id=80461465
Первоисточник: http://digital-economy.ru/images/easyblog_articles/1258/DE-2025-01-06.pdf

HOW ARTIFICIAL INTELLIGENCE WILL DESTROY THE ECONOMY AND DESTROY HUMANITY

Терелянский Павел Васильевич
д.э.н., к.т.н., профессор,

ФГБОУ ВО Российский экономический университет им. Г.В. Плеханова
г. Москва, Российская Федерация
e-mail: tereliansky@mail.ru

Tereliansky Pavel V.
D. Sc. (Economics), Candidate of Technical Sciences, Full Professor,

Plekhanov Russian University of Economics
Moscow, Russian Federation
e-mail: tereliansky@mail.ru

Аннотация: Статья посвящена анализу потенциальных негативных последствий массового внедрения и бесконтрольного использования технологий искусственного интеллекта. Рассматриваются три основных неблагоприятных сценария. Первый сценарий описывает возможность массовых техногенных катастроф, вызванных непрозрачными алгоритмами. Второй сценарий связан с гносеологической катастрофой, обусловленной информационным шумом, генерируемым ИИ. Третий сценарий предполагает экономическую катастрофу, которая может возникнуть в результате интеллектуализации средств производства. В статье не рассматриваются способы смягчения описанных угроз, автор предлагает непрерывно мониторить возникновение новых технологических, экономических и социальных рисков, порождаемых дальнейшим прогрессом в области внедрения технологий искусственного интеллекта. Своевременное прогнозирование и управление этими рисками позволят снизить вероятность негативных эффектов и направить развитие технологий в позитивное русло.

Ключевые слова: искусственный интеллект, техногенные катастрофы, информационный шум, неолуддизм, экономика данных

Идея размежевания двух культур научного познания — гуманитарного и естественно-технического — принадлежала Ч. Сноу, который 60 лет тому назад высказывал глубокое сожаление о том, что ученые и гуманитарная интеллигенция оторваны друг от друга, между ними стоит «стена непонимания», затрудняющая продвижение обеих сторон в познании и понимании мира. Как утверждал Ч. Сноу, «среди художественной интеллигенции сложилось твердое мнение, что ученые не представляют себе реальной жизни и поэтому им свойствен поверхностный оптимизм.

Ученые со своей стороны считают, что художественная интеллигенция лишена дара провидения, что она проявляет странное равнодушие к участи человечества, что ей чуждо всё, имеющее отношение к разуму, что она пытается ограничить искусство и мышление только сегодняшними заботами» 89.

На этом основании он сделал вывод, что в середине ХХ в. без сближения двух культур познания и мировоззрений невозможно совершить прорыв в изучении тайн мироздания и человеческой души. К концу же ХХ в. стало очевидным, что сближение двух культур востребовано не только логикой научного поиска, но и гуманитарными пределами научных экспериментов, затронувших сферу морали и права. Одной из самых ощутимых тенденций обогащения двух культур стала область информационно-технологической реконструкции мира, который, с одной стороны, создан по «объективным законам бытия», но, с другой стороны, зависим от выбора и положения субъекта как творца множественной неопределенности мира. Факт человека-творца, его технического гения, создавшего искусственный интеллект, стал необходимым условием новой реальности, ставшей, по сути, в наши дни «третьей» природой человека.

В соответствии с Национальной стратегией развития искусственного интеллекта разработка этических правил взаимодействия человека и искусственного интеллекта является одним из приоритетов. Следует учесть при разработке соответствующих этических норм, а самое главное — в практике, следующие принципы:

1. Принципы достоинства, свободы и прав человека должны неукоснительно соблюдаться во всех сферах жизнедеятельности человека, общества и государства, в том числе при внедрении в них систем искусственного интеллекта.

2. Искусственный интеллект является продуктом разумной человеческой деятельности, проекцией свойств человеческой природы, и его ценность ни при каких обстоятельствах не может быть выше ценности человека или равной ценности человека.

3. Информация о человеке, обществе, мире никогда не является исчерпывающей при любых ее объемах, поэтому следует избегать рассмотрения результатов ее обработки системами искусственного интеллекта в качестве безальтернативных, не подлежащих критической оценке и пересмотру.