+7-495-723-0119

Роман Ромачев: На этапе принятия решений должен быть человек, а не искусственный интеллект

    Опубликовано 24.01.2022 Автор CEO

    Роман Ромачев: На этапе принятия решений должен быть человек, а не искусственный интеллект

    Иван Князев: Люди не должны бояться и страдать из-за искусственного интеллекта: Совет Федерации поручил министерствам проработать меры для исключения дискриминации граждан различными компьютерными алгоритмами и закрепить порядок обжалования решений вот этого искусственного интеллекта. Что, правда, подразумевается под дискриминацией, в Совете Федерации официально не пояснили.

    Оксана Галькевич: Да, вот у меня тоже сразу возникло много вопросов. Ну, бывают, например, случаи, может быть, когда робот неправильно, да, начислил тебе штраф какой-то за нарушение...

    Иван Князев: Ну да, камера сработала, тебя неправильно сфотографировали или что-то еще.

    Оксана Галькевич: Да. Что еще может быть? Этот же робот, может быть, решает, кому выдать, кому не выдать кредит, такое тоже может быть.

    Иван Князев: Скоринг так называемый.

    Оксана Галькевич: Мы сейчас вот пытаемся сообразить, что это может быть за дискриминация. В МВД анонсировали проект по созданию системы, которая позволит находить серийных убийц, в Министерстве сельского хозяйства о планах применения искусственного интеллекта для увеличения производства сельскохозяйственной продукции. А если этот искусственный интеллект ошибется, тогда что будет?

    Иван Князев: С серийными убийцами особенно.

    Оксана Галькевич: Да, что-нибудь там... Человек пострадает, ему жизнь могут сломать. Опасен ли вот искусственный интеллект для людей, или, как утверждают разработчики, никакого вреда быть не может? Что вы думаете, уважаемые зрители? Звоните и пишите, мы в прямом эфире, телефоны бесплатные у вас на экранах. А мы выводим сейчас на связь наших экспертов.

    Иван Князев: Роман Ромачев у нас на связи, генеральный директор агентства «Р-Техно». Роман, здравствуйте.

    Роман Ромачев: Да, добрый день.

    Оксана Галькевич: Здравствуйте, Роман, здравствуйте. А вы вот как думаете, опасен не опасен, чего нам на самом деле следовало бы опасаться, а что, собственно, пустяки, наше пустое беспокойство?

    Роман Ромачев: Ну смотрите, 100 лет назад мы пахали поля с помощью лошадей, а сейчас мы пашем с помощью тракторов, комбайнов. То есть прогресс идет, и, к счастью, может быть, все новое всегда вызывает опасения. То же самое с искусственным интеллектом, он только начинает входить в нашу жизнь, а из-за того, что люди не знают, что это такое, у них это вызывает опасения. Поэтому в данном случае я считаю, что правильно делают, что пытаются популяризировать, объяснить всем, что это такое. К сожалению, без этого будущего не состоится.

    Иван Князев: Просто есть ли у нас какие-то сферы, я не знаю, какие-то границы, за которые принятие решений искусственного интеллекта заходить не должно? Ладно там выдать кредит, плохая у тебя кредитная история, машина может просчитать, а, например, с теми же штрафами возникают сложности, потому что инспекторов ГИБДД не всегда хватает, для того чтобы проанализировать ту или иную конкретную ситуацию, а человек потом в суде доказывает, что он не верблюд, простите, пожалуйста. Вот где какие границы есть?

    Роман Ромачев: Да, вот смотрите, с этими самыми штрафами, начнем от них. Действительно, сейчас машин настолько много в той же самой Москве, что к каждой камере инспектора не поставишь. Поэтому в данном случае искусственный интеллект должен анализировать эту информацию и давать всего лишь сигнал, чтобы инспектор обратил внимание на данный конкретный случай, но ни в коем случае искусственный интеллект не должен печатать протокол и отправлять. Всегда должен присутствовать человек на этапе принятия решения. Если мы на этапе принятия решения уберем человека и поставим машину, то, конечно же, машина насчитает такое, что потом мы долго будем это все разгребать.

    Оксана Галькевич: Ну просто объем работы, выполняемой, так скажем, роботами, искусственным интеллектом, он настолько велик, что вот человеку-то точно бывает не осилить это. Если мы не передаем часть функций, тогда, собственно говоря, мы просто добавляем себе работы на единицу человека, сотрудника в том же ГИБДД.

    Роман Ромачев: Нет-нет, немножко не так. Искусственный интеллект должен всего-навсего помогать, он должен как раз разгребать эту рутину, с которой человек не должен контактировать, и дальше уже, повторюсь, он должен давать сигнал, что стоит обратить внимание на эту ситуацию.

    Иван Князев: А сейчас уже пришло время, когда действительно можно прописать вот эти границы, эти принципы? Потому что существует, по-моему, какой-то кодекс этики у программистов, которые работают с искусственным интеллектом, чтобы они туда лишнего не вписали ему в возможности.

    Роман Ромачев: Совершенно верно. То есть опять же прогресс очень быстро развивается, сейчас самое время эти границы обозначить и прописать, придумать нормативно-законодательную базу, для того чтобы мы могли применять искусственный интеллект. Я думаю, что самое время пришло.

    Оксана Галькевич: А какие там могут быть границы, кстати, обозначены? Вот если порассуждать нам с вами в прямом эфире, что бы следовало в этот кодекс этики внести?

    Роман Ромачев: Границы – это то, что я сказал, самое основное, что функция принятия решения остается за человеком, а компьютерные мозги – это всего лишь помощник.

    Оксана Галькевич: А здесь злоупотребления какие-то возможны, как вы считаете? Потому что, ну знаете, такие вот механизмы, они зачастую дают сбой, именно слабое звено человек получается, тот самый человеческий фактор.

    Роман Ромачев: Да, поэтому злоупотребления с точки зрения опять же самого слабого звена, человека, могут быть. Мы много раз сталкивались с тем, что тот же самый ГИБДД штрафовал, например, машины, которые везут на эвакуаторе, за превышение скорости. То есть это означает, что инспектор халатно подошел к выполнению своих обязанностей, он просто автоматом подписывал все протоколы и не обратил внимания. Да, естественно, всегда, где есть человек, всегда есть человеческий фактор, но повторюсь, что именно принятие решения всегда должно оставаться за человеком.

    Оксана Галькевич: А вот люди, кстати, наши спорят: «Лучше уж робот, чем гаишник с палкой-кормилицей на дороге», – ха-ха. Ну да, бывает и такое, что иногда лучше все-таки с роботом иметь дело.

    Иван Князев: У нас звонок есть, давайте послушаем телезрителей. Галина из Московской области.

    Оксана Галькевич: Здравствуйте, Галина.

    Иван Князев: Приветствуем.

    Зритель: Добрый день.

    Хочу сказать, что ввели сейчас роботов, для того чтобы записываться к врачам. Причем это сделали повсеместно. В любом случае у них ограничено количество ответов, шаг влево, шаг вправо – называется расстрел. Поэтому всегда приходится просить о том, чтобы соединили с оператором, и это вам скажет любой. Вот знаете, сколько нареканий вызывает эта система? Даже представить себе невозможно. Уже вот реально достали.

    Оксана Галькевич: Да-да-да, Галина, я с вами согласна.

    Иван Князев: Да, спасибо, показательный пример, кстати.

    Зритель: ...который отвечает на определенный перечень вопросов и больше ничего.

    Оксана Галькевич: Да-да, и не подпадает это под ситуацию, которую описывает человек, когда звонит, я не знаю, в банк, или в медицинское учреждение, или еще куда-то, а его все равно робот на робота, робот на робота, робот на робота.

    Роман Ромачев: Вы абсолютно правы, т. е. создать искусственный интеллект не так уж и дорого, а самое дорогое удовольствие – это обучить его. То есть процесс обучения – это как раз процесс взаимодействия робота с человеком...

    Оксана Галькевич: О господи... Вы говорите «обучить», как будто о живом существе на самом деле, здесь уже, знаете, такие моменты пошли... Не обучить, наверное, что-то в прошивке изменить, да, вписать какие-то алгоритмы?

    Роман Ромачев: Нет-нет-нет, этот процесс называется именно обучением, т. е. искусственный интеллект необходимо обучать, и это самое дорогое удовольствие, длительный процесс, и, к сожалению, это очень дорого стоит.

    Иван Князев: Роман Владимирович, те, кто понимают, как работает искусственный интеллект, которые пишут программы, какие-то основы, принципы его работы, таких людей совсем немного, я думаю, 99,9% населения Земли вообще не понимает, как это происходит. И кто знает, что вот эти люди вносят ему в мозг, вот этому искусственному интеллекту? И кто их контролирует?

    Роман Ромачев: Ну вот это и есть процесс обучения. Например, если мы хотим понять, человек в школу зашел с ружьем либо со шваброй, для этого мы должны перед камерой, которая обрабатывает тот самый сигнал, мы должны сто раз пройти, например, со шваброй и несколько раз с ружьем для этого. Как раз мы научим систему распознавать те критические объекты, на которые стоит реагировать. Поэтому...

    Иван Князев: Нет, я немножко о глобальном, Роман Владимирович. Вот те люди, которые пишут программы для искусственного интеллекта, которые программируют его, обучают, их-то кто контролирует? Кто его знает, что они там хотят сделать. Сегодня он там будет смотреть, кто входит в школу, но где-нибудь «подсознательно» у него какой-нибудь счетчик работает, он в такое-то время сделает то-то или иное.

    Оксана Галькевич: Заговор, заговор!

    Иван Князев: Ну да, почему бы и нет.

    Оксана Галькевич: Та-дам, та-дам, тадам-тадам-тадам-та-да-да-дам, Роман Владимирович.

    Роман Ромачев: Это остается загадкой, и вопрос, скажем, утечки конфиденциальной информации, персональных данных стоит остро, потому что никто не знает, как эти данные обрабатываются, как обрабатывается наше видеоизображение с камер, где оно хранится и кто конкретно отвечает за сохранность, кто может понести ответственность за утечку. То есть это вторая проблема, которая до сих пор у нас в стране не решена, т. е. те законы, которые есть о персональных данных, нас полностью не защищают.

    Оксана Галькевич: А вот люди нам говорят, что у нас уже чиновники, управленцы спрятались за разными роботизированными системами. Ну, кстати, да, налоги подаешь, например, на вычет, еще какую-то заявку отправляешь, вроде как это автоматически считается, тебе какие-то цифровые ответы приходят автоматически от системы. Если вдруг ошибка, попробуй выясни, кто эту ошибку совершил, попробуй ее опротестуй, это все очень только усложняет на самом деле. Кому-то это упрощает, а нам это усложняет зачастую жизнь.

    Роман Ромачев: Поэтому и должен всегда стоять ответственный человек, который отвечает за принятие решений, к которому можно обратиться.

    Оксана Галькевич: Так мы его не видим, мы его не знаем, он спрятан за этим роботом.

    Роман Ромачев: Это проблема коммуникации, т. е. проблема именно тех компаний, которые внедряют роботов. То есть я считаю, что всегда должен быть вариант Б, который можно включить, обойти и уже контактировать непосредственно с оператором.

    Оксана Галькевич: Просто, знаете, если раньше, например, с ГАИ протокол подписан инспектором таким-то, рассмотрение дело, я не знаю, конфликтной ситуации ведет инспектор такой-то, и вы знаете его имя, фамилию, инициалы его, знаете, в каком отделении он работает, то теперь... Номер такой-то, пожалуйста, обращайтесь, ждите ответа.

    Роман Ромачев: ...то же самое, тоже протокол подписывает реальный гаишник, т. е. не просто робот, просто робот печатает, выявляет сигнал и подает гаишнику. А вот они уже порой халтурят и недолжным образом обрабатывают эти все бумаги.

    Иван Князев: Да просто даже если ты обжаловать попытаешься, это либо в суд идти, либо опять натыкаться на телефон, по другую сторону провода которого «сидит» робот.

    Роман Ромачев: ...искусственного интеллекта.

    Оксана Галькевич: Ну да. Вот у меня просто другая была ситуация, вспомнила, с налоговой инспекцией. У меня двое детей, у них одинаковые инициалы, одного Арсений зовут, другого Аким, «А. И.», «А. И.» у них инициалы. Когда я подавала на вычет, мне отказали в вычете на одного ребенка, потому что сочли, что я обманываю государство, подавая на одного ребенка дважды, а у меня просто двое с одинаковыми инициалами. И вы знаете, чтобы добиться вообще прояснения этой ситуации, мне пришлось подключать очень интересные алгоритмы...

    Иван Князев: Живых людей.

    Оксана Галькевич: Да, живых людей, так скажем, на работе.

    Иван Князев: Роман Владимирович...

    Оксана Галькевич: А система мне присылала ответы «Отказано», «Отказано», «Отказано», потому что отказано, потому что все, вот так.

    Иван Князев: Роман Владимирович, чтобы нам понимать дальше, с чем мы еще столкнемся, в какие сферы он проникнет? Ну вот серийных убийц искать будет, в МВД анонсировали, Минсельхоз тоже будет подключать для того, чтобы у нас урожай был лучше. Куда он еще проникнет? Где нам еще ждать вот этого подвоха?

    Роман Ромачев: Во все сервисы, где идет взаимодействие, активное взаимодействие граждан со властью, граждан с компаниями, с организациями, везде будут внедрять искусственный интеллект, для того чтобы минимизировать расходы на кадры, на операторов либо на тех людей, которые принимают первично документы, в этой сфере везде. И соответственно, в сфере безопасности, т. е. это выявление преступлений, пресечение преступлений, информирование полиции – это на первом месте.

    Оксана Галькевич: Нам, кстати, люди подсказывают, куда можно было бы роботов внедрить, в Думу, например, говорят, роботы, голосуй, принимай решения, проверяй закон на работоспособность. «Роботизированные комплексы должны работать на сортировке и утилизации мусора или, например, следить за тем, чтобы люди не бросали что попало мимо урны», – слушайте, прямо простор для фантазии огромный. Спасибо большое.

    Иван Князев: Роман Ромачев, генеральный директор агентства «Р-Техно», был с нами на связи.

    otr-online.ru/programmy/segodnya-v-rossii/roman-romachev-na-etape-prinyatiya-resheniy-dolzhen-byt-chelovek-a-ne-iskusstvennyy-intellekt-56615.html


    Последние новости

    Последние новости