Как блокчейн может спасти
от фейков

Дезинформация (то есть информация, которая намеренно вводит людей в заблуждение ради политической или финансовой выгоды) — это, конечно, не новое явление. Но, как мы могли убедиться в последний год, цифровые платформы существенно упростили распространение опасных теорий заговора, то есть заведомо ложных утверждений на самые разные темы, от пандемии и расовых волнений до лесных пожаров в Калифорнии и результатов президентских выборов. Такие посты удивительно быстро становились вирусными и получали огромный охват.

Подливает масла в огонь появление так называемых дипфейков — очень правдоподобных (но поддельных) фотографий, аудио- и видеозаписей, созданных с помощью ИИ. Дипфейки могут обойтись бизнесу в десятки миллионов долларов — и в этой цифре не заложено хуже поддающееся подсчету, но не менее важное влияние технологической дезинформации на общество в целом.

Эту проблему породили технологии. Но другие технологии, например блокчейн, могут ее решить и замедлить распространение цифровой дезинформации. Конечно, было бы наивно ожидать, что такую сложную проблему можно решить одним ударом. Но последние разработки обнадеживают: возможно, блокчейн устранит многие из рисков и глубинных источников цифровой дезинформации.

У блокчейна невероятный потенциал

В блокчейн-системах используется неизменяемый децентрализованный реестр, информация в который записывается таким образом, что ее подтверждает каждый, кто ее использует, поэтому однажды введенную информацию почти невозможно отредактировать. Одно из самых известных применений блокчейна — это управление обращением криптовалют, таких как биткоин. Но из-за децентрализованной валидации и четкости учета блокчейн может пригодиться для работы с любыми видами контента.

Одна из причин, по которым нам сегодня так сложно бороться с дипфейками и другой дезинформацией, заключается в том, что у нас пока нет правил и наработок для определения, пометки и отслеживания искаженных фактов на разных цифровых платформах, а также для реагирования на них. Но блокчейн может сделать жизненный цикл контента прозрачнее и создать механизм, который вернет доверие к нашей цифровой экосистеме. Есть три главных способа, как решения на основе блокчейна могут помочь нам разобраться с новыми видами цифровой дезинформации.

Подтверждение происхождения

Первый способ применить блокчейн для борьбы с дезинформацией — это отслеживание и подтверждение источников и другой важной информации в онлайн-изданиях. Сайт может создать блокчейн-реестр опубликованных фотографий, в котором любой пользователь сможет верифицировать подпись, место съемки, согласие на фотографирование, копирайт и другие метаданные. The New York Times изучает эту возможность в рамках своего проекта по анализу происхождения и изменения информации News Provenance Project. Издание использует блокчейн для отслеживания источников фотографий к новостям и контроля за их редактированием. Это дает пользователям больше контекста и показывает, как и когда был сделан снимок.

Компания аутентификации фотографий и видеозаписей Truepic заверяет контент в блокчейнах Bitcoin и Ethereum, чтобы подтвердить цепочку пользователей, работавших с фотографией на разных этапах, от съемки до хранения. Конечно, для разных задач нужны разные требования и разные виды метаданных. Но в целом блокчейн — это удобный механизм для верификации источника контента и его изменений на пути к конечному потребителю.

Исследователи и инженеры разрабатывают технологии дипфейков для добросовестных применений — например, для образовательных видео, кино или для интерактивного искусства. Они тоже могут использовать блокчейн, чтобы следить, кто имеет доступ к их алгоритмам, и подтверждать, что люди, которых изображает дипфейк, дали на это свое согласие. Это особенно важно для open-source-инструментов, которые доступны намного более широкому кругу пользователей, ведь чем больше пользователей, тем выше риск злоупотреблений.

Подтверждение личности и контроль за репутацией

Раньше за надежность контента отвечал, в первую очередь, издатель. Скорее всего, вы больше поверите статье The New York Times (или Harvard Business Review), а не какого-нибудь сайта, о котором впервые услышали. Но с этим связаны серьезные проблемы. Доверие к мейнстримным СМИ в Америке находится на рекордно низком уровне: согласно недавнему опросу, 69% взрослых американцев за последние 10 лет стали меньше доверять СМИ. Ситуацию еще более усугубляет тот факт, что цифровые медиа зарабатывают на рекламе, и их прибыль зависит от количества кликов — поэтому даже у самых заслуженных изданий есть стимул ориентироваться в первую очередь не на понятность и ясность, а на вовлечение аудитории. А если читатели в основном получают информацию только из заголовков репостов в социальных сетях, им становится еще сложнее отличать надежных, серьезных журналистов от пропагандистов, за которыми стоят определенные интересы.

Здесь может помочь блокчейн. Система на основе блокчейна может одновременно подтвердить личность автора и показать, насколько он заслуживает доверия, и для этого не будет нужен единый институт, которому бы доверяли все.

Например, в одной недавней статье была предложена система оценки личной репутации авторов и журналистов без привязки к изданиям, для которых они пишут. Это пример децентрализованного подхода к верификации источников, истории редактирования и других данных о цифровом контенте. Блокчейн может также отслеживать дистрибуцию контента: читатели и издатели смогут увидеть, откуда возникла дезинформация и как она распространялась по цифровой экосистеме.

Конечно, эта новая система порождает и вопросы, как и любая другая система отслеживания репутации. Кто будет задавать стандарты, формировать рейтинги и урегулировать споры? Каковы будут механизмы для этого? Более того, любая система для отслеживания и подтверждения персональной информации должна соответствовать лучшим практикам конфиденциальности и безопасности, которые отвечали бы и местным, и международным законам и нормативам. Но децентрализованная структура блокчейна сама по себе может решить многие из этих проблем — с ней нам не будет нужен единый институт, которому бы доверяли все.

Мотивация создавать качественный контент

Наконец, одна из главных сложностей распространения точной информации в современном мире заключается в том, что у авторов и издателей есть сильная мотивация увеличивать число кликов любой ценой, а это проще делать с желтым, сенсационным контентом. Возможно, вы слышали про подростков из Македонии, которые в 2016 году размещали в правых группах Facebook статьи с дезинформацией и заработали десятки тысяч долларов на рекламе. Рекламные сети (например, Google) обещают активнее бороться с заблуждениями и дезинформацией, но они «себе сами ставят оценки» — и вряд ли у них есть стимулы перекрывать денежные потоки.

Однако в блокчейне можно составить умный контракт, который будет автоматически оплачивать только тот контент, который соответствует заранее определенным стандартам качества. Например, в 2017 году появился блокчейн-стартап Civil, который продвигал принципы достоверной журналистики, финансово вознаграждая пользователей криптовалютой за публикацию точной информации и штрафуя их за тексты, которые не соответствуют стандартам качества. Этот стартап вскоре закрылся, но на его место пришли новые — например, Nwzer и Pressland, которые тоже стремятся поддержать непрофессиональных и независимых журналистов и устранить барьеры к распространению контента и используют блокчейн для подтверждения точности и достоверности информации.

Конечно, надежность этих систем в конечном итоге зависит от сообщества, которое будет задавать их стандарты. И все же хорошая блокчейн-система сможет выделиться в современной переполненной экосистеме медиа и мотивирует людей создавать и публиковать только такой контент, который отвечает правилам сообщества.

Но это не панацея

Конечно, у блокчейна большой потенциал в обеспечении точности и прозрачности информации. Но сама по себе технология блокчейна — это просто механизм записи. Все зависит от сообществ, которые будут использовать эти платформы. Они должны определить, как контент будет добавляться в реестр и верифицироваться и что будет мотивировать пользователей выстраивать и поддерживать систему. Ведь если пользователи не будут доверять авторам и системе, то ничего не изменится. Никакая технология не сможет полностью устранить глубинные сложности установления доверия или тягу к прибыли и власти, из-за которой и возникает дезинформация.

Кроме того, даже если предположить, что большинство пользователей действуют из лучших побуждений, нельзя рассчитывать, что у них будет время и возможность верифицировать огромное количество контента, которое возникает каждый день. Сколько ссылок на источники из этой статьи вы открыли, а сколько из этих материалов вы прочитали целиком? Конечно, если блокчейн-инструменты будут удобны и просты в использовании, это поможет (представьте, что система оценки статей будут похожа на оценки гигиеничности ресторанов или на отзывы в Yelp), но все равно не стоит ожидать от пользователей слишком многого.

И это лишь один из вопросов, на которые нужно ответить перед тем, как внедрять настоящую систему верификации, основанную на блокчейне. Блокчейны работают слишком медленно, могут хранить лишь ограниченный объем информации и несут множество рисков, связанных с экологией, конфиденциальностью и свободой самовыражения. Поэтому нужно инвестировать не только в технологические решения, но и в дополнительные политические и образовательные программы по борьбе с созданием, распространением и монетизацией дезинформации.

Чтобы победить дезинформацию, нужны не только технологии

Что касается политических мер, то на местном, национальном уровне и на уровне штатов уже возникло несколько важных инициатив. Так, в 2019 году в Палату представителей США был внесен Акт об ответственности за дипфейки, в котором было предложено использовать блокчейн для верификации источников, водяных знаков, определения личности автора контента и другой важной информации. В 2021 году Евросоюз начал рассматривать ряд законов, регулирующих использование искусственного интеллекта бизнесом, а несколько штатов США уже ввели законы об использовании дипфейков — в первую очередь в связи с выборами и дипфейк-порнографией (хотя прецедентов по этим законам пока не было, и их эффективность, таким образом, не доказана). Конечно, политические меры должны находить баланс между регулированием, с одной стороны, и конфиденциальностью и свободой самовыражения — с другой: недавние случаи блокировки интернета и протестов из-за цензуры — лишь очередные примеры того, как авторитарные режимы могут злоупотреблять законами, изначально введенными для борьбы с дезинформацией, и использовать их против оппозиции. С учетом этих рисков, а также огромных темпов технологического развития, политикам стоит регулировать опасное поведение и минимизировать его вред, а не просто вводить общие правила, ограничивающие работу сферы в целом.

В то же время все больше информации распространяется через социальные сети и другие частные источники, а не через государственные каналы, и частные компании все чаще оказываются в роли арбитров и регуляторов информации. Многие крупные социальные сети, например Facebook, TikTok и Twitter, уже внедрили политики и правила относительно искаженных источников. Но они весьма непоследовательно соблюдают другие собственные правила о дезинформации, зачастую ссылаясь на важность свободы слова. В спорах о модерации контента часто говорят лишь об интернет-компаниях и социальных сетях, но дезинформация и дипфейки могут представлять угрозу для любой отрасли, поэтому всем компаниям важно принять меры, чтобы защитить себя, своих покупателей и заинтересованных лиц от цифровой дезинформации.

Чтобы принять политики и внедрить технологии для борьбы с этими новыми угрозами, сначала нужно полностью понять эти угрозы — а эту задачу нельзя перепоручить ИТ-отделу. Власти, корпорации и пользователи на всех уровнях и во всех сферах должны вкладываться в программы медиаграмотности, должны учиться сами и учить других разбираться, как работают технологии цифровых манипуляций и как от них защититься.

***

Очень важно доверять информации, которую мы видим, слышим и читаем, это основа работающей экономики и демократического общества в целом. Простых решений здесь нет, но все же есть несколько приемов, которые помогут лидерам сохранить это доверие.

Во-первых, лидеры должны разобраться в рисках и возможностях, связанных с новыми технологиями, и объяснить это своим командам. Во-вторых, они должны вложиться в технологические решения (и в инструменты на блокчейне, и в более традиционные средства), чтобы смягчить влияние дезинформации и дипфейков, нацеленных на их компанию, бренд или сотрудников. В-третьих, при выборе технологических партнеров и дистрибуторов стоит работать только с организациями, которые проактивно и ответственно подходят к главным вопросам безопасности, конфиденциальности и согласия. Наконец, можно вступить в консорциум или организацию наподобие нашего DeepTrust Alliance, чтобы вместе с другими заинтересованными лицами разрабатывать политические и технологические решения этих проблем.

Блокчейн может сыграть огромную роль в борьбе с дезинформацией, но он не может решить всех проблем. И все же при правильном сочетании образования, политики и технологий современные лидеры смогут построить будущее, которому мы все будем доверять.

Об авторах

Кэтрин Харрисон (Kathryn Harrison) — основатель и CEO фонда DeepTrust Alliance, единственной глобальной некоммерческой сети, разрабатывающей и продвигающей меры по борьбе с вредоносными дипфейками. CEO и основатель цифровой платформы MAGPIE, которая занимается аутентификацией и управлением предметами коллекционирования. Перед тем как основать DeepTrust Alliance, была менеджером по продукту в IBM Blockchain.

Амелия Леопольд (Amelia Leopold) — маркетолог DeepTrust Alliance и MAGPIE.

* деятельность на территории РФ запрещена