На площадке Форума состоялась панельная дискуссия «Этические вызовы и просветительские возможности новых медиатехнологий».
Спикеры рассмотрели вопросы, связанные с угрозой информационной безопасности, распространением дипфейков, влиянием искусственного интеллекта на общественное сознание. Участие в дискуссии приняли генеральный директор Президентского фонда культурных инициатив Роман Карманов, заместитель Министра культуры Российской Федерации Сергей Першин, доцент Московской духовной академии Протоиерей Павел Великанов, генеральный директор АНО «Центр развития социальных проектов», руководитель проекта «Семьи небесные» Армен Попов, заместитель начальника Управления Президента Российской Федерации по общественным проектам Александр Журавский, заместитель председателя Синодального отдела по взаимоотношениям Церкви с обществом и СМИ, главный редактор радио «Вера» Илья Кузьменков, главный редактор журнала «Москвичка» Дарина Алексеева и издатель журнала «Москвичка» Дарья Решке.
Модератором дискуссии выступил председатель Синодального отдела по взаимоотношениям Церкви с обществом и СМИ, профессор МГИМО и Университета «Сириус» Владимир Легойда.
Участники начали дискуссию с обсуждения деструктивных идеологий в виртуальном пространстве. Александр Журавский заметил, что опасность искусственного интеллекта заключается в его адаптивности под человека.
«То, что сейчас происходит, последние известные события, когда соответствующий чат <…> довёл человека до суицида, причём на протяжении длительного времени его ориентируя на уход из жизни. Мы видим, что это баги, то есть, это сбой системы, но представьте себе сбой системы в отношении всего социума человеческого. Опять же, искусственный интеллект адаптивен, он под вас подстраивается, под ваш психологический портрет, психологию <...>. Мы должны иметь такие сильные технологические решения, которые обеспечат суверенность нашего искусственного интеллекта и обеспечат ту этическую модель искусственного интеллекта, которая не поставит вопрос об исчезновении человечества как условии дальнейшего прогресса искусственного интеллекта», — сказал Александр Журавский.
Роман Карманов добавил, что необходимо законодательно регулировать и маркировать контент, создаваемый нейросетями.
«Мне кажется, самое страшное, что пока породил искусственный интеллект — атмосферу всеобщего недоверия. “А правда это ты написал песню? А правда это ты писал этот текст?”. <…> Нужно что-то с этим делать, потому что это превращается в паранойю и фобию. <…> Было бы здорово, если бы мы начали как-то рефлексировать по поводу этого явления, потому что единственный способ с этим справиться —заставить себя и все общество маркировать добровольно или добровольно-принудительно то, что создано с помощью искусственного интеллекта», —заметил Роман Карманов.
В конце дискуссии Сергей Першин отметил угрозу, исходящую от искусственного интеллекта, в творческой среде.
«Художник вместо того, чтобы подойти с кисточкой к мольберту, может написать промпт, подгрузить его в чат и получить результат. У нас есть большое количество творческих вузов, там обучаются люди, прошедшие определенные стадии эволюции в профессиональном деле, знающие, что такое традиция, история искусства. И вот здесь как будто бы есть риск того, что на рынке их могут вымыть те, кто научился правильно писать промпты, кто менее прокачанный с точки зрения истории искусства, традиции. Это не может не тревожить», — заключил Сергей Першин.