«Это просто мешок слов»: за что жители Златоуста ругают ИИ

Этим летом была опубликована Стратегия использования ИИ в госуправлении. В ней было прямо сказано, что генеративный ИИ будет использоваться для общения власти с гражданами, для выполнения некоторых работ за чиновников (и самопроверки), для написания государственных Стратегий и т.д.

Что такое искусственный интеллект? Это программа, имитирующая деятельность человека. Причем нельзя сказать, что она делает что-то лучше человека. Это примерно как сказать, что машина ездит быстрее или экскаватор копает быстрее, чем человек. Что делает современный генеративный искусственный интеллект? Он умеет просто подбирать наиболее вероятную последовательность слов из сети на ваш запрос и усредняет его. Это просто машина счета совместной встречаемости слов в интернете и их отбора. Если вы попросите его написать Стратегию для компании, то он просто сгенерирует для вас шлак из разных советов по «успешному успеху».....

При этом наши цифровизаторы накручивают истерику, надувают пузырь ИИ. Сама широко разрекламированная технология, когда пузырь лопается, выходит просто на узкий профиль применения, а истерика вокруг нее естественным образом падает. Лет 5-6 назад нам рассказывали, что везде будут одни сплошные блокчейн. Греф говорил, что к 2030 г. блокчейн-технологии будет производить 10% ВВП всей Земли. А я сейчас вижу, как чиновники среднего уровня на совещаниях обсуждают, как им вычеркнуть блокчейн из всех своих программ, чтобы высшее начальство об этом не узнало. Сегодня он конечно применяется только в биткоине и прочих цифровых валютах, которые являются трансграничным серым налом для торговли разными запрещенными вещами. И все.

Пресловутая кривая Гарднера начала загибаться, и пузырь ИИ лопнет через год-полтора. Уже выходят материалы, что ИИ денег не приносит, а затраты на него гигантские. Для понимания – один промпт (запрос) для чата GPT стоит в 10 раз дороже, чем запрос в Гугле. Трамп говорит, что надо расконсервивать АЭС в США для развития ИИ, а в реальности и там начали понимать, что этот пузырь скоро лопнет.

Недавно прошло большая конференция по ИИ Грефа, где участвовал президент России. Можете прочесть ее стенограмму на сайте kremlin.ru. Она как бы разделилась на две части - в первой президент пел дифирамбы ИИ, рассуждал, как он должен заколоситься, что надо его всюду внедрять и т.д. Думаю, что эти нарративы президенту подсунули... из Сбербанка, тот же Греф и так далее.

А потом Владимир Путин начинает говорить от себя. И говорит противоположные вещи. Например, "а зачем вводить ИИ в образование? Ведь тогда дети разучатся думать?" и т.д.

И сейчас вот эти цифровизаторы через депутатов внедряют ИИ как эксперимент в образовании, и они же пытаются продвигать социальный рейтинг. Мне такие депутаты прямо говорили: "А что в этом плохого? Ну, будут у нас какие-то критерии оценки. Хороших учеников награждаем, плохих как-то наказываем. На основании цифрового профиля ученика, который уже ведётся".

Тут возникает один вопрос. Как вы думаете, чиновник или начальник, которому сотрудник подчиняется, как будет использовать этот соцрейтинг? То есть человеческий фактор моментально коррумпирует эту систему. И есть вопросы к работе самого ИИ. Сейчас у многих банки блокируют карты за безобидные переводы денег. Начинаешь разбираться - "а это не мы, это все ИИ, мы не отвечаем за его решения". А кто отвечает?

Греф недавно публично заявил, что уволил 20% сотрудников Сбера, потому что ИИ посчитал их работу неэффективной. Такой причины увольнения, конечно, в Трудовом кодексе нет. И вот такой подход они хотят навязать всей стране. А кто пишет алгоритм для соцрейтинга, критерии оценки сотрудников Грефу? Это сделали какие-то программисты, окончившие технический вуз. При этом мораль их не интересует, просто потому, что они ей не занимаются. Они верят, что алгоритм все решает. И вот они пишут правила для других людей, не несут ответственности за свои правила, и уверены, что они хорошо работают... И вот это самое страшное - мы получаем безответственную систему.

С этим надо бороться, поэтому сейчас пытаемся написать законопроект об безопасном использовании ИИ в соцсфере. В частности, прописать, что нельзя принимать никаких важных и юридически значимых автономных решений о людях посредством ИИ.

А у Грефа и Ко противоположная концепция - не надо никак регулировать ИИ. Якобы за это выступают старики и луддиты, мешающие развитию технологий. Очевидно, они будут пытаться нам помешать", - заключил Ашманов.