Я тебя генерировал, я тебя и убью: куда приведет человечество развитие искусственного интеллекта?
Твой ум, пупсик! А сейчас мой использует мощь твою! Я всасываю твой ум и питаю свой головной мозг!
И смешно, и страшно. Играя 30 лет назад сумасшедшего ученого, умеющего залезать в чужой разум, Джим Керри, наверное, и не подозревал, насколько цифровые технологии продвинутся в 21 веке. И теперь создается впечатление, что искусственный интеллект вовсю бороздит просторы нашего разума не в фильмах, а в реальности.
Вместо терминаторов и робокопов пока, к счастью, разве что умные пылесосы в квартирах, однако в гаджетах и смартфонах — целый нейросетевой ассортимент. Причем за пальму первенства в подобных разработках уже ведется серьезное противоборство. В США, например, подготовили законопроект для борьбы с китайскими технологиями с сфере искусственного интеллекта, согласно которому можно и штраф в миллион долларов получить, и за решетку на 20 лет угодить. Настоящая битва за умы цифровыми руками.
Как любой инструмент, работающий с информацией, искусственный интеллект, к сожалению, так же как раньше радио, газеты, а сейчас и телевидение, может быть инструментом пропаганды, может быть инструментом манипуляции, может быть инструментом подтасовки фактов. Но, как и раньше, люди привыкли к работе с такими инструментами, привыкли проверять информацию. Просто искусственный интеллект дает больше возможностей и более динамично это может делать.
Анатолий Антипов, директор по управлению научно-технической информацией и аналитики INVENTORUS
Правда, использовать возможности искусственного интеллекта так, как тебе хочется, можно далеко не всегда. Точнее, он тебе может выдать свою правду. Точнее, правду своих хозяев. Ответить, например, на вопрос об СВО, используя в контексте «война в Украине». Или возвращение Крыма в Россию обозвать «аннексией». И так далее.
Люди знающие, конечно, прочитав или услышав такое, покачают головой и улыбнутся, как над шуткой умалишенного. А вот по неокрепшим детским умам такие трактовки могут очень нехорошо ударить, если рядом здравомыслящих взрослых нет. Слушаешь всё это и невольно задаешься вопросом: а не взбесится ли однажды искусственный интеллект да и не пойдет косить всех людей направо и налево, увидев в своем создателе врага? Ведь уже были ЧП, стоившие человеку жизни от рук робота.
Известный случай, когда робот-погрузчик из-за того, что алгоритм неправильно отработал, в какой-то момент поднял рабочего и совершил определенные с ним манипуляции, которые привели к его смерти. Это один из примеров, когда недостаточный контроль привел к плохим последствиям, хотя изначально, естественно, никто в модель такого не закладывал. При совершенствовании искусственного интеллекта важно учитывать ту информацию, на которой он обучается. Важно, чтобы та информация, которая участвует в моделях при их обучении, была валидированной, правильной, не искусственно сгенерированной, потому что есть и научные статьи на тему, что когда модели обучаются на данных, сгенерированных моделями же, то это ведет к деградации модели спустя несколько поколений.
Максим Абрамов, консультант первого проректора по учебной работе СПбГУ
В общем, сам себя искусственный интеллект совершенствовать не может — уже хорошо. Но всё равно наблюдаешь порой парадокс: человек искусственный интеллект совершенствует, но использующие его люди как будто становятся всё глупее и глупее. Мол, лень думать, машина всё сделает. Например, еще летом прошлого года выяснилось: почти четверть российских школьников используют нейросети для подготовки к экзаменам. И если кто-то просто ищет нужную информацию, то нашлись и те, для кого нейросеть — это инструмент для подготовки шпаргалок. И таковых немало.
Но уж кто использует цифровой прогресс в антигуманных целях на сто процентов, так это мошенники и недруги нашей страны. И голоса подделывают, и внешность, лишь бы ввести в заблуждение да выгоду получить. В информационной войне это, к сожалению, тоже действенное оружие, которое совершенствуется из года в год. Самими людьми.
Пока что дипфейки еще не достигли такого совершенства, чтобы невозможно было отличить оригинал от подделки, но я думаю, что это вопрос трех-пяти лет максимум. Там уже будет новое поколение генеративного искусственного интеллекта, и по слепку голоса, в принципе, адекватный слепок голоса уже сейчас можно буквально с нескольких фраз получить. Причем если раньше, например, мошенники делали слепки голоса в буквальном смысле, то есть они звонили и ожидали услышать ответ «да, подтверждаю», ваше ФИО и с этими записями уже звонили, например, через подкупленных лиц оформляли кредиты, то сейчас действительно технологии могут дойти до того, что и слепок видео анимированный, и слепок голоса можно буквально по одной фотографии, по одной фразе сделать.
Святослав Пегов, директор центра спортивного программирования, алгоритмической робототехники, кибербезопасности и киберспорта Уфимского университета науки и технологий
Тем временем первый зампред комитета Госдумы по информационной политике, информационным технологиям и связи Александр Ющенко бьет тревогу: развитие искусственного интеллекта зашло слишком далеко. Пора государству брать его под свой контроль, иначе так и до восстания машин недалеко. Да и целый ряд экспертов разводит руками: цифровой разум в будущем вытеснит людей из многих профессий: водители, кассиры и учителя якобы тоже под кадровым прицелом. Словом, развитие человечества вроде бы продолжается. Но говорить это о массах точно преждевременно. Тут как с огнем: на нем можно и еду приготовить, и дом спалить. Дело в осторожности. А чат-бот ChaosGPT заявил: люди — это одни из самых разрушающих всё и эгоистичных существ, которых нужно уничтожить, прежде чем они причинят еще больший вред планете. Без комментариев.