Финансируемый мета регулятор по дезинформации ИИ на платформе Meta подвергается критике: «Вы не какая-то система сдержек и противовесов, вы всего лишь пиар-раскрутка»

Финансируемый мета регулятор по дезинформации ИИ на платформе Meta подвергается критике: «Вы не какая-то система сдержек и противовесов, вы всего лишь пиар-раскрутка»

Как опытный геймер, который путешествовал по бесчисленным виртуальным мирам и сражался с противниками искусственного интеллекта, я не могу не испытывать чувства дежавю, когда дело доходит до текущих дебатов о дезинформации ИИ. Кажется, что мы играем в старую игру с новыми правилами — кот все еще не совсем прав, но теперь границы размыты, и становится сложнее отличить, что реально, а что нет.


В последнее время распознать искусственное изображение как подделку было несложно из-за размытых краев, неправильных пропорций, лишних цифр на людях и невозможности точно изобразить кошек. Однако технология искусственного интеллекта быстро развивается, из-за чего становится все сложнее отличить настоящие изображения от поддельных. По мере приближения выборов в США TechCrunch организовал дискуссию со специалистами по искусственному интеллекту относительно дезинформации, подпитываемой искусственным интеллектом. В ходе этого разговора обсуждались методы саморегуляции Меты.

В самый разгар нашей дискуссии о дезинформации я оказался вовлеченным благодаря проницательным словам, сказанным не кем иным, как Памелой Сан Мартин, которая удостоила нас должности сопредседателя Наблюдательного совета Meta.

Как преданный поклонник, я бы сказал это так: «Надзор, насколько я понимаю, — это глобальная команда профессионалов, которые действуют по своему усмотрению и принимают окончательные решения о том, какой контент можно публиковать в Facebook и Instagram.

Первоначально не упоминалось, что финансирование совета директоров поступает непосредственно от Meta в размере 280 миллионов долларов за последние пять лет. Позже это раскрытие вызвало некоторую скрытую напряженность среди членов комиссии, учитывая заявления совета о независимости.

Сан-Мартин, признавая проблемы, связанные с ИИ, и понимая, что даже Мете необходимо самообучаться с его помощью, похвалил ИИ как оружие против дезинформации, распространяемой ИИ.

Как геймер, я заметил, что большинство публикаций в социальных сетях отслеживаются автоматическими системами. Эти системы часто используют искусственный интеллект (ИИ) для выявления потенциальных проблем. Когда они обнаруживают что-то сомнительное, это помечается для проверки человеком или немедленных действий.

После этого обсуждения я тоже пришел к выводу, что борьба с дезинформацией не всегда заключается в ее устранении, но иногда более эффективно вместо этого правильно информировать или маркировать ее. Функция заметок сообщества X дает хорошее представление о том, что я имею в виду. Более того, она подчеркнула, что сообщения о дезинформации обычно приносят пользу общественным деятелям и информации, однако они обеспечивают минимальную защиту частных лиц от потенциального вреда.

Она заметила сопротивление, когда говорила о регулировании, особенно о саморегулировании советов директоров.

Сан-Мартин заявил собравшимся, что регулирование имеет решающее значение. Он признал, что его весьма беспокоят правила, касающиеся высказываний, но искренне поддерживает их, когда речь идет о вопросах прозрачности и подотчетности.

Брэнди Ноннеке, глава Политической лаборатории CITRIS, возразила на это заявление, заявив: «Я не убеждена, что эти отчеты о прозрачности эффективны для достижения каких-либо реальных изменений.

Аргумент здесь заключается в том, что, учитывая количество дезинформации, распространяемой ИИ, в отчете могут быть показаны тысячи реальных примеров, но при этом не дается более широкое понимание того, какая дезинформация осталась нетронутой. Они могут создать «ложное ощущение, что на самом деле они проводят должную осмотрительность». Когда эти отчеты создаются внутри компании, также может быть сложно определить цель отчета.

Имран Ахмед, глава Центра по противодействию цифровой ненависти (CCDC), не просто критикует Мету; он также не согласен с Наблюдательным советом Меты и его мотивами.

«Саморегулирование не является настоящим регулированием, поскольку надзорный совет не должен решать важнейшие вопросы, которые всегда следует задавать, когда кто-то обладает властью. Эти вопросы включают в себя: какими полномочиями вы обладаете, кто предоставил вам эту власть, для чего В чью пользу вы его используете, перед кем вы несете ответственность и как мы можем вас отстранить, если вы плохо работаете, если ответы на все эти вопросы указывают на то, что у вас нет никаких сдержек и противовесов, а вы, скорее, служите им? связи с общественностью, то никакого баланса сил вы не обеспечите.

Этот аспект имеет решающее значение в дискуссиях о правилах, поскольку Сан-Мартин подчеркнула, что Мета не может уволить ее из-за ее отчетов.

По словам Кайла Виггерса, который вел заседание, в апреле в Мета-надзорном совете произошли сокращения. Однако он подчеркнул, что финансированием этой работы управляет траст, который постоянно получает средства от Меты.

У компании есть возможность не продлевать контракты сотрудников именно в этом фонде. Это означает, что хотя они и не могут быть прекращены, они могут перестать получать финансирование. Это вызывает некоторую обеспокоенность по поводу прозрачности отчетов и саморегулирования.

То, как Meta обращается с ИИ, часто вызывает скептицизм, и это мнение отражено в циркулирующей кольчуге «Прощай, Meta AI». Возможно, саморегулирование не будет идеальным решением проблемы злоупотребления ИИ.

По словам Ноннеке, довольно иронично, что отчеты о прозрачности могут непреднамеренно скрывать проблемы, которые они призваны решить. Более того, он утверждает, что тщательное изучение мотивов саморегулирования Meta кажется важным для разработки более разумной и безопасной стратегии ИИ на их платформах.

Смотрите также

2024-11-05 16:48