Круглый стол на тему «Пределы использования искусственного интеллекта в СМИ» в рамках ПМЭФ стал продолжением дискуссии о роли инструментов искусственного интеллекта (ИИ) в будущем массмедиа, которая активно ведется по всему миру.
1 июня издатель The New York Times Артур Зульцбергер в Марселе на Всемирном конгрессе новостных СМИ выступил с программной речью о необходимости борьбы медиа с компаниями – разработчиками нейросетей за свои права на производимый контент и приоритет в обсуждении общественной повестки. The New York Times с декабря 2023 года потратила 20 млн долларов на иски против производителей ИИ, отстаивая свою интеллектуальную собственность.
В конце мая в Копенгагене состоялся очередной Nordic AI in Media Summit. На этой встрече ученых, журналистов и медиаменеджеров шла речь о тех неизбежных изменениях в производстве контента и экономике СМИ, которые влечет распространение ИИ. Причем в столице Дании обосновывался следующий тезис: осведомленность СМИ об ИИ не гарантирует им выживание. На повестке дня стоит вопрос о кардинальных изменениях в экономике новостей и рынка прессы.
Фото: Фотобанк Росконгресс
Эпидемия дипфейков
В программе ПМЭФ оказалось много мероприятий, так или иначе связанных с разработкой, использованием, внедрением ИИ, а также контролем над ним. В дискуссии «Пределы использования искусственного интеллекта в СМИ» приняли участие спикеры только из трех стран, но аудитория их медиа – около миллиарда человек, поскольку речь о представителях Индии, Китая и России.
Модератор круглого стола экс-заместитель министра иностранных дел РФ, заместитель генерального директора медиагруппы «Россия сегодня» Александр Яковенко озвучил главные темы разговора. Привел ли конец дефицита контента к началу дефицита доверия к нему? Кто будет якорем доверия – бренд, журналист или алгоритм? Кто отвечает за ошибки в материале, сгенерированном ИИ, – редакция, разработчик модели или конкретный автор? Нужны ли регуляторные требования к «невидимой редактуре», когда решение о том, что предложить потребителю новостей, все чаще принимается не журналистом, а системами рекомендаций? Возвращается ли ценность журналиста как производителя премиального продукта?
На последний вопрос Яковенко дал собственный ответ. По его мнению, ИИ берет на себя рутину, но возрастают требования к человеку, который должен, соблюдая этические нормы, найти инсайдерскую информацию и предложить её оригинальное изложение. Профессия не исчезает, но становится более элитарной и узкой.
Фото: Фотобанк Росконгресс
Александр Яковенко
Олег Рогов, руководитель группы «Доверенные и безопасные интеллектуальные системы» Института искусственного интеллекта AIRI, рассказал о сложностях верификации контента, отметив, что лишь 1% респондентов уверенно смогли распознать дипфейк во время специальных исследований. Одна из причин – генерация ИИ-контента совершенствуется быстрее, чем методы распознавания фальсификаций.
«Мы первое поколение специалистов по информационной безопасности, которые защищают системы от тех самых инструментов, которым эти системы доверяют по умолчанию», – отметил Олег Рогов.
Эксперт рассказал, что без соответствующей маркировки очень тяжело представить доказательства подлинности того или иного ролика, даже когда речь заходит о лицах, принимающих очень серьезные решения. Голос и лицо такой персоны сейчас довольно легко подделать за 10 минут. Мир, по словам Рогова, переживает эпидемию дипфейков. И проблема не только в том, что их становится очень много. Они становятся невероятно качественными. В борьбе с этим злом можно использовать «устойчивые цифровые водяные знаки» – цифровую маркировку, которую очень сложно удалить. Вполне вероятно, что через какое-то время всем СМИ придется обзавестись собственной «цифровой подписью».
Фото: Фотобанк Росконгресс
Олег Рогов
Андрей Цыпер, исполнительный директор по медиа Rambler&Co, генеральный директор ООО «Рамблер Групп», генеральный директор «Лента.Ру» и «Газета.Ру», согласился с модератором, что сегодня медиаконтент производится с избытком. По его мнению, главный вызов сейчас – это качество производимой продукции. И здесь человек останется определяющим фактором. Нейросеть не сможет через свои источники в администрации президента найти инсайдерскую информацию или предложить читателю исторический материал со своим творческим осмыслением. Плюс СМИ необходимо подбирать интонацию, с которой оно общается со своим потребителем.
При этом Rambler&Co не отказывается от идеи серьезного использования нейросетей, и не только для того, чтобы разгрузить своих сотрудников от рутинной работы.
«У нас есть реализованный эксперимент с редакцией, которой целиком и полностью управляет искусственный интеллект. Не буду называть проект. Он находится в стадии тестирования. Маленький проект, там нет людей вообще. Ввиду того что меня пока в прокуратуру или в Следственный комитет не вызывали, все идёт нормально», – поделился секретом Цыпер.
Правда, он тут же оговорился, что слабо себе представляет, как искусственный интеллект «сидя в бане, мог бы о чем-то с кем-то договориться».
«Откуда нет выхода»
Генеральный директор НТВ Алексей Земский говорил о более общих проблемах, связанных с ИИ. На первое место он поставил авторское право, которым в настоящий момент операторы искусственного интеллекта пренебрегают при обучении нейросетей и при сборе необходимой информации по запросам.
Во-вторых, отметил Земский, нейросети – это часть российского суверенитета. Именно так необходимо их рассматривать, особенно на фоне того, что не так много стран в мире имеют подобные собственные ресурсы.
По словам руководителя НТВ, можно создать «агента искусственного интеллекта» на базе каждого журналиста, корреспондента или ведущего. Этот агент освоит навыки написания текста и монтажа сюжета. Возможно, общий уровень работы редакции даже чуть повысится, но зритель перестанет видеть человеческие эмоции. Такая перспектива напомнила Алексею Земскому историю из прошлого: «На XXIII или XXIV съезде КПСС был доклад о культуре. И там прозвучала замечательная фраза: «Средний уровень актёра стал выше». Средний, а запоминаем мы все равно самых ярких, не средних».
Использовать ИИ на НТВ сегодня планируют в другой сфере. Идёт разработка софта на основе нескольких нейросетей, который предназначен для подготовительного периода съёмок кино и сериалов. В специальную программу будет загружаться сценарий, и дальше ИИ самостоятельно начнет разбивать его на сцены, описывать локации, заниматься костюмами, реквизитом. Затем сможет подключиться оператор со своими вопросами, и продюсер будет точно понимать, что он увидит на выходе. Всё это сократит время подготовительного процесса с трех-четырех месяцев до двух недель. Экономию средств можно приблизительно посчитать, зная, что на подготовку съемок уходит 10-12% бюджета всего проекта.
Официальный представитель МИД РФ Мария Захарова подхватила мысль Земского о том, что замена человека его AI-агентом приведет к отказу от творчества, от его «собственного дарования». Затем она заговорила про совесть.
«Проблема не в том, что у искусственного интеллекта нет совести. Проблема в том, что не у каждого человека она есть. И в сочетании с отсутствием совести у ИИ, утрата совести как ориентира человеческого развития может дать чудовищные результаты. Под видом: "Посмотрите, как удобно, не надо выходить из зоны комфорта, не надо переживать, сопереживать, тратить силы" можно дойти не то чтобы далеко, а можно дойти глубоко, откуда нет выхода», – туманно сформулировала Мария Захарова.
Более конкретные рекомендации она дала в плане борьбы с дипфейками. Захарова рекомендует обращаться в ассоциацию по фактчекингу. Спикер назвала её российской, но сами учредители – ТАСС и АНО «Диалог» – присвоили своему детищу более громкое наименование – GlobalFactсhecking Network.
«Зайдите к ним на сайт. Они дают возможность вступить с ними в интерактивный диалог. Они проводят очные мероприятия, у них есть целое программное обеспечение для фактчекинга. Я понимаю, что этот совет всех проблем не решит, но это действенный инструмент», – уверена Захарова.
Фото: Фотобанк Росконгресс
Мария Захарова
Последнее слово – за человеком
Ван Бинь, директор евразийского бюро китайской медиакорпорации CMG, на прекрасном русском языке рассказал, как активно стали внедрять ИИ в его компании начиная с 2022 года. Руководитель CMG тогда заметил: «Если мы упустим это окно возможностей, то окажемся на неправильном пути, где можно быстро и долго бегать, но никакого результата не будет».
Сегодня в Китае работают над отраслевой нейросетью для СМИ. Разрабатывают в КНР и национальную базу данных. Китайским экспертам предстоит каталогизировать и сделать пригодным для использования искусственным интеллектом 300 млн часов видеоконтента.
«Сейчас для нас одна из приоритетных задач – это превратить нашу медиакорпорацию из производственного предприятия в научно-техническое», – подытожил Ван Бинь.
Фото: Фотобанк Росконгресс
Ван Бинь
Калли Пури Бхандал, исполнительный главный редактор индийского англоязычного телеканала TV Today Network (India Today), рассказала, что в Индии распространяется очень много контента, сгенерированного ИИ. Проблема заключается в том, что эту технологию никто не тестировал, прежде чем она получила столь широкое применение по всему миру.
Спикер поделилась, что её телекомпания проводила эксперимент с AI-агентами, которые дублировали журналистов. Практика была признана успешной, хотя сами сотрудники India Today отмечали: в сюжетах нет какого-то живого компонента, нет эмоций. На данный момент в компании окончательное согласование материала осталось за человеком.
Калли Пури Бхандал особо подчеркнула, что борьба с фейками для Индии – очень актуальная проблема. По её мнению, цифровая подпись должна присутствовать на контенте. Это позволит бороться с дезинформацией. В стране только в этом году пять предвыборных кампаний. При высоком уровне доверия людей к контенту, созданному с помощью ИИ, возникает масса проблем с достоверностью новостей.
Фото: Фотобанк Росконгресс
Калли Пури Бхандал
«Выключать «электричество» неправильно»
Денис Арапов, заместитель генерального директора News Media Holding, начал свое выступление с информации о том, что кликабельность заголовков ИИ выше, чем у тех, которые сформулировал человек. Это опыт одной популярной, но не названной Араповым платформы. Средняя стоимость показа рекламы тоже выше у контента, сгенерированного ИИ.
«Искусственный интеллект уже давно вошёл в нашу жизнь. Говорить, плохо это или хорошо, не совсем правильно. Наверное, надо к этому просто приспосабливаться, использовать максимально все его возможности», – считает Арапов.
На его взгляд, в эпоху широкого распространения ИИ-контента медиа становятся центрами притяжения внимания потребителей: «Мы – та площадка, которая берет на себя ответственность за контент, за информацию, поэтому к нам будут приходить. Мы – конкретные люди, которые могут «по шапке получить», если фейк какой-то опубликуем».
Подчеркнув важность разработки отечественного законодательства об использовании ИИ, Арапов высказался и на актуальную тему разнообразных запретов: «В современных условиях технологический суверенитет – это, конечно, не строительство заборов или блокировки. Это все-таки умная работа с последними наработками. Государство в данном случае обязано предоставлять нашим гражданам вычислительные данные, как электричество. Без перебоев. И выключать по политическим соображениям это "электричество" тоже неправильно».
Фото: Фотобанк Росконгресс
Денис Арапов
Последним на панели высказался Илья Дронов, управляющий директор телеканала РБК. Он отметил, что тему круглого стола так и не обсудили. Участники говорили об опасностях, которые кроются в использовании ИИ, и о том, как его нужно регулировать. На взгляд Дронова, регулирование и устранение опасностей будет возможно только тогда, когда все разработчики нейросетей об этом договорятся. Если говорить о пределах использования ИИ, то это всё равно что в 1996 году дискутировать о потенциале интернета.
«Мне кажется, что пределов по использованию искусственного интеллекта, к сожалению, я подчёркиваю – к сожалению, нет, потому что это некая гонка, как ядерный проект, который в своё время было нужно успеть разработать. Здесь то же самое: если ты нажимаешь кнопку "Пауза", то ты просто- напросто отстаёшь», – уверен Дронов.
Внедрение ИИ-технологий в СМИ будет способствовать экономической выгоде. Дронов предложил собравшимся поставить себя на место генерального директора СМИ, которому предлагают сэкономить 80% за счёт использования ИИ. Экономия денег или качественный контент – сложный выбор. При этом зритель сегодня активнее потребляет новости, когда их рассказывают быстро и доступным языком, без особых изысков.
Дронов считает, что через 10 лет СМИ разделятся на две категории: 80% — это ИИ-медиа (оперативно и удобно) и 20%, произведенные живыми людьми. Последние будут распространяться по подписке.
Прямо во время сессии директор РБК задал ChatGPT несколько вопросов по поводу пределов использования искусственного интеллекта. ChatGPT сообщил, что к 2040 году появятся СМИ, полностью сделанные с помощью искусственного интеллекта.
Фото: Фотобанк Росконгресс
Илья Дронов (слева)