|
ДокладыКак и зачем преодолевать барьеры, отделяющие нас от AGIИПМ им. М.В. Келдыша РАН, 125047, Москва, Миусская пл., д.4, +7 499 978-13-14, smolin@keldysh.ru 11МГУ, Факультет космических исследований, 119991, Москва, ГСП-1, 1-52, Ленинские горы, +7 903 170-86-66, haoyuishen@yandex.ru Приблизительно с 2017 г. тема AGI перешла из области далёкой фантастики в ближайшую практическую цель [1]. Сегодня создание AGI является основной целью исследований в области ИИ у таких серьёзных компаний, как OpenAI, DeepMind и Anthropic PBC. Но широкое научное сообщество продолжает считать, что машина никогда не сможет заменить человека с душой, чувствами и эмпатией во всех областях деятельности, а главное – не следует доверять машинам. Зачем тогда нужен AGI? Но есть и другая крайность восприятия AGI: «умные» машины смогут полностью заменить человека и займут его место в развитии цивилизации, поскольку уже сейчас генеративный ИИ [2] позволяет создавать тексты и фотореалистичные изображения на уровне человека, а со временем – значительно превзойдёт человеческие возможности. Задача состоит в выборе взвешенного, основанного на математическом анализе подхода к оценке возможностей уже созданного ИИ, для чего необходимо преодолевать сложившиеся стереотипы, которые служат барьерами для создания AGI. Также следует понимать, что, как и любое изобретение человечества, AGI будет полезен или вреден не сам по себе, а в соответствии с целями и возможностями, которые будут в него заложены. Преодолевать барьеры, а именно такие представления, как: а) не всё возможно автоматизировать; б) новые знания может получать только человек; в) машина никогда не сможет чувствовать, понимать, ставить задачи, согласованные с человеческими потребностями [3]; г) быть энергоэффективнее человека при решении когнитивных задач и многие другие следует на основе демонстрации алгоритмизуемости всех, ранее казавшихся неразрешимыми, задач методами формальной декомпозиции. Результаты исследований показывают, что создание AGI не только осуществимо, но и необходимо, поскольку ограничения человеческих возможностей в настоящее время сдерживают когнитивное развитие цивилизации. Но создание AGI может как ускорить прогресс, так и углубить неравенство, в зависимости от общественного контекста и принятых представлений о справедливости.
Литература. 1. Бурцев М.С., Бухвалов О.Л., Ведяхин А.А. и др. Сильный искусственный интеллект: На подступах к сверхразуму. – М.: Интеллектуальная Литература, 2021. 232 с. 2. Фостер Д. Генеративное глубокое обучение: Как не мы рисуем картины, пишем романы и музыку. 2-е изд. Sprint Book, 2024. 448 с 3. Russell S. Human compatible: Artificial intelligence and the problem of control. Penguin, 2019. 336 с
|
