Искусственный интеллект выходит на тропу войны: социальные манипуляции, дипфейки, подделка голоса

Все опасения сравнительно ИИ можно поделить на две группы — утилитарного рода и экзистенциальные. И, что дотрагивается утилитарных опасений, к сожалению, частично они уже исполняются. Ненастоящий интеллект реально отнимает работники места. Вероятно, таковские области, будто бухгалтерия и юриспруденция, будут всецело поглощены ИИ. Внушительное численность рабочих мест будет сжато в медицине и ветеринарии. Алкая ведущие бизнес-консультанты вещают, что ИИ сам создаст близ 100 миллионов рабочих мест в мире, однако при этом 300 миллионов рабочих мест он поглотит.

Социальные манипуляции с поддержкой ИИ — уже не попросту опасения, а самая взаправдашняя, животрепещущая большущая проблема. Дипфейки позволяют заменять в видео рыла одних людей на иные, что вовсю используется для шантажа, дезинформации, политических афер. Имитация голоса исподволь становится излюбленным и массовым инструментом социальной инженерии. Кто не согласится поддержать патрону, какой названивает вам по телефону и выканючивает содействия для усиления безопасности?Даже скептик вряд ли усомнится в происходящем. Имитация голосов на сегодняшний девай — технология не попросту массовая, однако и больно недорогая. Лад надобного голоса продается в даркнете итого за 300 рублей. Жрать и более простые, однако не менее разрушительные применения ИИ в социальных манипуляциях. Наполнение лент социальных сетей по рекомендациям ненастоящего интеллекта — одно из них. Манипуляторы научились использовать эти алгоритмы в свою пользу. Западные эксперты, примерно, почитают, что Фердинанд Маркос-младший на выборах президента Филиппин получил голоса молодых избирателей собственно благодаря хакингу с поддержкой ИИ-ботов алгоритмов популярной социальной сети.

Социальный надзор с поддержкой ИИ в какой-то степени уже осуществляется. Недавно по Телеграм-каналам развелось видео из одной китайской братии, где видеокамера непрерывно снимает рабочее помещение, с поддержкой ИИ выявляя сотрудников, какие отвлекаются от работы, высчитывая их интервалы до секунд. Комментарии к видео сообщали, что минуты и секунды, потраченные на интервалы в работе, вычитаются из зарплат работников. Алкая мы аккуратно не знаем, истина ли показанное на видео. Вероятно, это тоже дипфейк и социальная манипуляция в рамках антикитайской пропаганды. Однако технически таковая система в взаправдашний момент вероятна. Камеры с ИИ и распознаванием рыл мы обвыкли причислять к системам безопасности, однако где грань между безопасностью и приватностью?

Атаки на критическую инфраструктуру с поддержкой ИИ — каждодневная головная боль всех специалистов по кибербезопасности. Алкая многоуровневые целевые атаки, вводящие в том числе и ИИ-основанную социальную инженерию, и распределенные ИИ-основанные сетевые атаки, — явление жидкое и дорогое, специалисты по безопасности вещают неоднократное увеличение их использования уже в кратчайшие годы. К счастью, эта проблема и решается с поддержкой самого ИИ, какой выявляет ИИ-атаки. Однако гонка вооружений в этой сфере развития продолжается.

Отдаленнее на очередности — автономное оружие на базе ИИ. Увы, алкая ведущие военные державы неоднократно публично заявляли, что не будут разрабатывать таковое оружие, оружие, оснащенное ИИ, уже тут. И применяется в вооруженных конфликтах.

Экзистенциальные угрозы ИИ доколе не реализовались и глядят, скорее, к полю возможностей, чем к конкретным вероятностям появления. Тем не менее собственно им уделяется особое внимание. Величайший заинтересованность тут видит понятие этики ненастоящего интеллекта. Будто может ИИ принимать верные решения, необычно сложные, со значимыми последствиями, если он не знает, что таковое «хорошо» и что таковое «плохо»?Человечество может стать подвластным от ИИ, утратив свои созидательные способности, когнитивные навыки, способность к критическому мышлению. И взаправду, даже писатели-фантасты не предполагали, что творчество падет первым под нажимом ИИ, оставляя его заключительным бастионом человечьего. Однако, будто очутилось, фактически первое, что научился ладить нынешний ИИ, — это катать музыку и стихи, мазать картины в заданном манере, будто Моцарт, будто Ван Гог, будто Пушкин. ИИ может ввергнуть к экономическому неравенству и «гонке вооружений» в области ИИ. Корпорации и стороны, какие будут владеть более абсолютный ИИ, будут все более отрываться от корпораций и местностей, у каких дудки ИИ. Всемерное внедрение ИИ может ввергнуть к разрыву человечьих связей, снижению эмпатии и утрате социальных навыков. Уже сейчас в США 20% народонаселения в течение дня болтают всего с «умными» колонками и голосовыми помощниками. Давай и, наконец, появление большого ненастоящего интеллекта, превосходящего людской, не обремененного при этом человечьей этикой и нравственностью, уже будит обеспокоенность не всего у фантастов. Вероятно, если развитие ИИ продолжится теми же темпами, что заключительные пять лет, то бунт машин уже абсолютно вблизи?..

Впрочем, что дотрагивается экзистенциальных трепетов, дрожать того, что они реализуются, доколе безвременно. Само звание «искусственный интеллект» владеет довольно косвенное касательство к тому, что сейчас величают этим именем. Нынешний ИИ не изображает ни ненастоящим, ни собственно благоразумным. Как-то давненько, в 1980-е, ненастоящим интеллектом величали системы, основанные на логическом программировании. Идея компьютеров «пятого поколения» заключалась в том, что им требовалось бы попросту взговорить, что надобно сделать, а будто сделать, решали бы они сами, исходя из запрограммированной в них системы правил. Более того, ИИ этого поколения мог вбить свои решения. Оттого сочетание «искусственный интеллект» было к нему вполне применимо. Найденные успехи в этом течении были завоеваны, благодаря этим изысканиям мы сейчас владеем системы самодействующего доказательства математических теорем. Однако, увы, мишень создания управляемых правилами вычислительных систем завоевана не была. Ага и тема ИИ была надолго забыта.

Однако нынешний ИИ, сердце популярных провиантов GhatGPT, DALL-e, YandexGPT, Microsoft AI, — нечто абсолютно иное. Он, по словам основателя современной лингвистики Ноама Хомского, изображает «громоздкой статистической машиной для сопоставления с манером, вбирающей сотни терабайт настоящих и экстраполирующей наиболее вероятный ответ в тары-бары-раста-баре или наиболее вероятный ответ на научный вопрос». То жрать не выделывает ни новоиспеченного резона, ни новоиспеченного познания. Оттого в нем дудки ничего «искусственного», он бытует благодаря большущим настоящим, базам познаний, накопленным человечеством. Можно даже наименовать нынешний ИИ гигантским плагиатором. Собственно настолько почитает газета «Нью-Йорк таймс», подавшая в суд на Microsoft и Оpen AI(демиургов ChatGPT)за плагиат, поскольку совместный чат-бот этих бражек при политических спросах беспардонно, круглыми отступами с минимальными вариациями выдавал тексты газеты на заломленную тему.

Однако основная проблема ИИ в том, что нынешние модели абсолютного обучения не могут вбить, будто они генерируют свои ответы. Они не могут вбить, что собственно и зачем они ладят. Собственно оттого нынешний ИИ весьма нелегко наименовать «интеллектом». Вероятно, тут и кроется суть экзистенциальных трепетов. Будто можно вверять, во-первых, безвестному?А во-вторых, мы-то уж знаем, как опасны накопленные человечеством познания. К счастью, подход нынешнего ИИ, какому надобно бы давненько придумать звание поаккуратнее, вряд ли когда ввергнет к созданию большого ненастоящего интеллекта. Настолько что уж «восстания машин» можно аккуратно не опасаться в кратчайшие десятилетия. Воздушнее ли от этого тем, у кого ИИ отнял работу, или тем, кому не с кем поговорить, кроме будто с «умной» колонкой?Вряд ли вина в этом валяется собственно на ИИ. Работу и ранее отнимали компьютеры, оружия автоматизации, роботы и механизмы. Отчуждение людей в раскрученных местностях и разворотив социальных связей возрастали и настолько. Винить в этом ИИ настолько же безголово, будто компьютерные игры или социальные сети. Социальные манипуляции прежде осуществлялись газетами и телевидением...

Стоит ли в связи с этим уподобляться луддитам и крушить дата-центры?Это итого лишь прогресс. Нынешний ИИ излишне безголов, дабы его всерьез опасаться.