Кейс: зачем нужны голосовые роботы во время пандемии
Коронавирус закрывает границы государств, но расширяет границы применения AI-технологий. Пользу приносят и голосовые роботы, звонки от которых обычно так всех раздражают. Разработчики Just AI сделали демоверсию ассистента, который звонит и подсказывает, что делать, если вы контактировали с заболевшим. Читатели vc.ru могут с этим роботом поговорить.
821 открытие
В начале марта московская мэрия решила информировать горожан «о состоявшемся контакте с больным коронавирусом» пушами и смсками. Мы в Just AI оценили все недостатки такой односторонней коммуникации и разработали голосового помощника, который сообщает человеку, что тот находится в зоне риска, рассказывает о мерах предосторожности и собирает статистику.
«Без регистрации и смс»
Итак, 11 марта мэрия Москвы сообщила, что под медицинским наблюдением из-за контакта с заболевшими коронавирусом находятся около 1 000 человек. Это были не только сами заболевшие, их родственники и друзья, но и пассажиры «опасных» рейсов, водители такси и даже курьеры.
Пассажирам, с которыми летели заболевшие, отправлялись смс с просьбой перейти в режим самоизоляции и немедленно вызвать скорую помощь. На 11 марта было отправлено 650 таких сообщений. Вот так они выглядели:
Оба скриншота выложены получателями в Facebook
17 марта мэрия рассказала о новых мерах: операторы горячей линии регистрируют прибывших из неблагополучных стран и отвечают на вопросы, связанные с коронавирусной инфекцией, но каждый москвич может также сообщить о себе и заполнить анкету самостоятельно на портале mos.ru.
В Москве на момент публикации 56 заболевших, а всего в России – 114. Контакт с человеком, у которого вдруг выявят коронавирус, может состояться где угодно. Самолет, аэропорт, крупное мероприятие, офисное здание, кинотеатр, гипермаркет – в результате число людей, случайно контактировавших с заболевшим, может исчисляться сотнями и тысячами.
Как быстро предупредить всех, кто попал в зону риска, что им желательно отсидеться дома? Или сообщить, что в самоизоляции им положен больничный? У пушей и смс как меры «по предупреждению распространения коронавируса» много минусов.
- Это односторонние уведомления, они не дают гарантии, что адресат вообще прочитает предупреждение , выйдет на контакт с органами здравоохранения или тут же останется дома – лечиться или оберегать мир от самого себя.
- Не дают они и никакой статистики – например, у какого числа адресатов симптомы ОРВИ есть прямо сейчас.
- Не дают возможности диалога в момент коммуникации, хотя адресату на 100% захочется что-то уточнить.
- Вообще самому человеку они не дают ничего, кроме тревоги (в приложенных выше скринах видно, что в одном случае вас «просят», а в другом – «вы обязаны»).
Мы уже рассказывали, как голосовые роботы могут пригодиться бизнесу при обзвонах клиентов. Если сам бизнес все преимущества умных обзвонов понимает, то пользователей, уставших от телефонного спама, приходится переубеждать. «Если ассистент полезен, то он не будет вас раздражать!» – говорим мы раз за разом.
Пандемия коронавируса и возникшая необходимость оперативно доносить до граждан рекомендации по соблюдению карантина, собирать статданные и обратную связь, проводить ликбез по симптоматике и мерах предосторожности – это тот кейс, когда голосовые роботы, наконец, могут послужить человеку, бизнесу, властям. И никого при этом не бесить.
Разбираем кейс
Давайте посмотрим на самого голосового ассистента и разберемся, что нужно для его создания. Наша задача – показать, как технологии разговорного AI могут пригодиться в экстренных ситуациях.
Инструмент
Мы делали робота в собственном продукте – Just AI Conversational Platform, это enterprise-решение, которое обычно используется крупными компаниями для создания разговорных ботов и автоматизации КЦ, разработки голосовых ассистентов и умных обзвонов со сложной архитектурой.
В принципе, реализовать сценарий обзвона можно и в конструкторе чатботов, у которых есть такой функционал (наш конструктор Aimylogic, например, достаточно прост в освоении, чтобы им могли воспользоваться люди без опыта программирования – госслужащие, сотрудники учреждений здравоохранения, HR-отделы компаний).
Так выглядит сценарий в продукте
Определиться с целью обзвона
Мы смоделировали реалистичную ситуацию. Органам здравоохранения нужно проинформировать людей, которые случайным образом оказались в зоне риска – например, были участниками массового мероприятия, книжной ярмарки.
Мы хотим известить ее посетителей о том, что они могли контактировать с заболевшими, справиться об их состоянии и сообщить, что в любом случае им стоит оставаться дома и соблюдать определенные правила карантина.
Дисклеймер. Мероприятие и сама ситуация выдуманы, не волнуйтесь!
Придумать адекватное приветствие
В первой реплике нужно представиться и рассказать о цели звонка. Мы сочли, что сообщать плохие новости сразу же нежелательно. Даже смс вызывает стресс. Если вас огорошат известием о коронавирусе с порога, да еще и во время звонка – вы будете сильно нервничать. Если не сказать ничего («Здравствуйте, это голосовой помощник Департамента здравоохранения. Уделите пять минут?») – звонок могут сбросить.
Поэтому мы решили, что голосовой ассистент сообщит, что проводит опрос «в целях профилактики распространения коронавируса на территории города». В это неспокойное время люди захотят послушать, о чем речь.
Продумать логику сценария
Самый быстрый и простой способ построить логику — написать пример диалога. Это что-то вроде сценария к фильму, где все реплики расписаны по ролям. В нашем прототипе это небольшой сценарий, в ходе которого мы должны задать несколько ключевых вопросов.
В кейсе с книжной ярмаркой ключевые реплики бота:
- «По данным Департамента здравоохранения, среди участников книжной ярмарки, которая проходила 9-го марта, были выявлены четыре случая заболевания коронавирусной инфекцией. Скажите, пожалуйста, посещали ли вы это мероприятие?». По логике звонящее ведомство или компания-работодатель уже знает, что человек в зоне риска, поэтому его номер есть в базе. Но лучше все равно коротко описать ситуацию — это помогает начать диалог.
- Мы получили подтверждение. Человек был на мероприятии. Тогда бот спрашивает: «Наблюдаете ли вы в настоящее время у себя симптомы ОРВИ или другого респираторного заболевания?». Так мы отслеживаем текущее положение дел, собираем статистику (предположим, у какого числа людей из зоны риска появились симптомы через 3 дня, на момент обзвона). Конечно же, мы понимаем, что собеседник может спросить: «Что за симптомы?». И готовим ответ на этот вопрос.
- Итак, симптомы есть. Тогда робот рекомендует собеседнику незамедлительно вызвать врача на дом, даже если симптомы слабо выражены.
- Фух, симптомов нет. «Инкубационный период коронавируса – до двух недель. Даже если у вас нет симптомов, на это время вам необходимо соблюдать режим самоизоляции: не посещать работу, учебу, общественные места, не приглашать гостей». Затем ассистент рассказывает, как оформить больничный.
Что еще могут спросить
«Смысл голосового ассистента с NLU (natural language understanding) в том, что он даёт человеку возможность говорить естественно и свободно, умеет понимать разговорные формулировки, корректно отвечать на дополнительные вопросы. А в случае с такой непростой тематикой обзвона они непременно возникнут. Чем больше вопросов и их формулировок предусмотреть, тем лучше робот будет понимать собеседника».
Комментарий лингвистов Just AI
Для нашего MVP-варианта мы выбрали такие вопросы и подготовили на них ответы:
- «А как получить больничный не выходя из дома?» (варианты формулировок: «Погодите, а как же больничный?», «Как я буду дома сидеть, если мне работать надо?» и т.п.)
- «Каковы первые признаки коронавируса?»
- «Че будет, если я не буду сидеть дома?»
- «Я работаю по сдельной оплате, мне нельзя сидеть дома»
- «Какова ситуация с коронавирусом в Москве?» (здесь ассистент может озвучить несколько последних новостей)
- «По какому телефону я могу узнать подробности о карантине?»
- «Есть ли вакцина для коронавируса?»
- «Скажи номер департамента здравоохранения»
- «Кто может рассказать нормально, что делать, чтобы защититься от коронавируса»
- «А что, если я заболею, пока дома сижу?»
Ассистента можно быстро дообучить отвечать на новые вопросы. Данными для обучения могут стать как экспертные знания, так и реальные логи – те вопросы, которые будут задавать люди по телефону.
Не забыть про CatchAll
CatchAll – это нераспознанные роботом реплики. На них тоже нужно знать, что ответить. Предположим, если человек скажет: «Вы чего, я живу в Тюмени! Какая ярмарка?», фраза попадет в CatchAll, а бот извинится и попрощается. В дальнейшем все реплики, попавшие в CatchAll могут использоваться для дообучения бота. Например, если бот воспринимает формулировку «а вакцина какая-то уже есть от коронавируса?» как «уже есть коронавирус» – то это решается дообучением NLU-модели.
Синтез или предзаписанные реплики
Конечно, озвученные диктором реплики – это здорово, этот способ часто используется при создании голосовых обзвонов. Тогда робот звучит более естественно, лучше интонирует. Но в экстренных ситуациях может не быть времени на озвучку, качественный синтез вполне сгодится.
В нашем демо использованы сервис распознавания и синтеза речи Yandex SpeechKit и собственная технология понимания естественного языка Just AI.
Сбор статистики
По каждому из совершенных звонков можно получить формализованный результат – например, качественную статистику: процент людей, у которых есть симптомы ОРВИ (номера этих абонентов будут отмечены).
Дайте уже поговорить с этим ассистентом!
Чтобы протестировать вышеописанный кейс, вам нужно позвонить на номер 8 (499) 112-09-46. Демоверсия ассистента настроена на прием входящих (звонок тарифицируется в соответствии с вашим тарифом).
Либо можете просто прослушать запись разговора одного из наших сотрудников с голосовым помощником:
Мы уверены, что вы будете задавать роботу каверзные вопросы, и точно знаем, что он отправит их в CatchAll, а вас – на горячую линию Департамента здравоохранения. Еще раз обращаем внимание, что это MVP проекта – иллюстрация принципа обзвонов с помощью голосового ассистента с разговорным AI.
В чём профит, кроме службы на благо общества?
Каждые сутки в московский колл-центр по вопросам коронавируса поступает около 5000-6000 звонков. Основная задача сотрудников горячей линии — регистрация и выдача больничных листов и консультация по всем вопросам, связанным с коронавирусом. Мэрия Москвы сообщала, что в колл-центре (горячая линия по коронавирусу) работают 170 специалистов.
Операторы КЦ тратят много времени на звонки и ответы на часто задаваемые вопросы от встревоженных горожан. Возможно, их ресурсы пригодились бы для консультаций по более сложным и частным случаям. Не говоря уже о том, что люди, которые работают на горячей линии, сами нуждаются в отдыхе и в соблюдении режима самоизоляции.
Голосовой ассистент может одновременно обзванивать до 1000 абонентов – за сутки он может охватить 200 тысяч человек.
Что будет дальше
Это лишь пример использования разговорного AI для голосовых обзвонов. Кейсы могут быть разные: информирование участников крупных мероприятий, на которые проданы билеты (как осуществлять возврат, обмен билетов, на какие даты перенесено событие и прочее); информирование сотрудников о работе в режиме самоизоляции; оповещение клиентов о действиях при массовой отмене рейсов или туров.
Во всех этих случаях автоматизирована может быть не рассылка уведомления, а именно диалог – когда важно получить и быстро обработать обратную связь от собеседников. Так, например, можно наладить сбор заявок и оформление доставки больничных листов курьерской службой (по данным мэрии, на 13 марта более 5 тысяч человек обратились за больничными листами по горячей линии).
Есть и другая потребность, которую можно закрыть голосовыми роботами. Во время карантина бизнес переходит на особый режим работы, кто-то перестает работать вовсе, экономика стран замедляется. Но так будет не всегда.
Вот кейс наших коллег из Just AI China: пик эпидемии в Китае пройден, бизнес и предприятия медленно возвращаются к жизни, и китайским властями будет нужно узнать, кто вернулся к работе, кто еще нет, кто работает удаленно.
Невозможно обойти все компании в конкретном городе, чтобы понять реальную картину по региону или по стране. Наши китайские коллеги сейчас работают над голосовым обзвоном, который поможет эту картину получить.
Будьте здоровы и берегите себя!
Голосовой помощник Сбербанка может подсказывать мошенникам
Информацию о состоянии счетов клиентов можно получить не только от инсайдера-банкира, который продает их на «черном рынке». «Пробить» данные можно с помощью полезных сервисов, вроде голосового помощника Сбербанка.
В редакцию Банки.ру обратился сотрудник оператора связи и рассказал, что обнаружил лазейку, которой могут пользоваться злоумышленники. Узнать баланс карты и последние операции жертвы можно с помощью голосового помощника Сбербанка — достаточно позвонить в банк от имени потенциального клиента-мишени.
«Пробиваем» данные без «слива»
«Здравствуйте, Ольга Александровна! Это Сбербанк, я ваш голосовой помощник. Я могу решить большинство ваших задач. Просто скажите, чем я могу вам помочь», — говорит услужливая виртуальная сотрудница Сбербанка. Я не Ольга Александровна, но, произнеся слово «баланс», узнаю, что на карте хранится больше 40 тыс. рублей, а после требования «последние операции» — список из последних трансакций своей родственницы. Хотя звонок шел не с телефона клиентки, суммы называются с точностью до копейки и совпадают со свежей выпиской по счету. На этом демонстрационная часть эксперимента заканчивается, и мой собеседник переходит к объяснениям, как такое возможно.
«Мы расследовали подозрительный инцидент на нашей сети и наткнулись на то, что человек хотел через нас это делать, пресекли, а потом додумали», — рассказывает сотрудник компании, которая оказывает услуги телефонии. По его словам, мошенники нередко пользуются «облачными АТС», чтобы подменять номер телефона и звонить своим жертвам, выдавая себя за партнеров по бизнесу, поставщиков или сотрудников банков. Обзвон банковских клиентов особенно популярен — в январе «Коммерсант» сообщал о всплеске случаев такого мошенничества. Чаще всего жертвами становились клиенты Сбербанка, который лидирует в России по количеству эмитированных карт. Последние истории про взломы могут объясняться в том числе уязвимостями дистанционных сервисов Сбербанка, утверждает собеседник Банки.ру.
Мошенник с помощью специальных программ может совершить звонок на один из номеров Сбербанка — он пойдет с телефона злоумышленника, но в кредитную организацию поступит как будто бы с номера жертвы. В этом случае включается голосовой помощник Сбербанка. Сервис называет человека по имени и отчеству и обещает выполнить команды после авторизации. Для этого бывает достаточно назвать последние цифры карты клиента. Заранее «пробив» окончание номера карты, злоумышленник с помощью голосового помощника может узнать баланс карты и последние пять операций по счету человека. Наличие подобного багажа существенно упрощает «обработку» жертвы методами социальной инженерии. Последние схемы мошенничества, описанные в СМИ, как раз предполагали, что злоумышленник для убедительности рассказывает клиенту о состоянии счета и трансакциях. Во многих случаях человек сам по незнанию переводил деньги мошенникам или компрометировал карту.
IT-специалист показал, как работает схема, на примере трех карт Сбербанка, принадлежащих разным клиентам. Только в одном случае голосовой помощник для авторизации попросил назвать не последние цифры карты, а код клиента — это была моментальная карта, выпущенная накануне.
Уязвимость или нет?
В Сбербанке отказались комментировать ситуацию. Там также не ответили, какая доля держателей карт может идентифицироваться в голосовом помощнике только по личному коду. Таким образом, нельзя точно оценить, сколько клиентов кредитной организации можно считать более уязвимыми перед подобным мошенничеством. Зампред Сбербанка Станислав Кузнецов заявил, что специалисты кредитной организации знают о том, что идентификация по последним цифрам карты может нести риски для пользователей сервиса. «Мы внимательно следим за подобного рода рисками и видим, что здесь есть определенного рода риски не то что утечки информации, а получение сведений об остатках карты. В настоящее время идет глубокий анализ, как ужесточить эту ситуацию для того, чтобы иметь большую защищенность на стороне клиента», — сказал Кузнецов на пресс-конференции во время Международного конгресса по кибербезопасности, организованном Сбербанком.
Идентификация в сервисах ДБО по последним цифрам карты категорически небезопасна, считает руководитель группы анализа защищенности Solar JSOC «Ростелеком-Солар» Александр Колесов. По его словам, у мошенников есть несколько путей достать такую информацию. «Самый простой способ — получить слип (документ об оплате покупки банковской картой), где обычно указано и имя владельца, и последние цифры карты. Люди редко отдают себе отчет в том, что эти данные могут представлять ценность, и не проявляют никакой осторожности при обращении с ними. Последние цифры карты также можно узнать, сделав потенциальной жертве копеечный перевод по номеру телефона. Наконец, данные карт и привязанные к ним номера телефонов массово и довольно недорого продаются на специализированных форумах в Даркнете», — перечисляет эксперт. Он, впрочем, считает, что в случае с голосовым помощником Сбербанка происходит не идентификация для сервиса ДБО, а идентификация для звонка в техподдержку.
Так или иначе, схема позволяет узнать чувствительную информацию, и это опасно, говорит технический директор Qrator Labs Артем Гавриченков. «Это неприемлемая ситуация, поскольку данные об операциях, равно как и данные о балансе счета, — это информация сугубо конфиденциальная. Фактически любой человек, имеющий доступ к минимальному и достаточно простому инструментарию для подделки номеров мобильных телефонов, имеет возможность следить за финансовыми операциями тех, чьи номера телефонов ему известны. Если там не поставлено ограничений по частоте звонков, конечно», — отмечает эксперт. Он подчеркивает, что такой способ сбора данных о клиентах может применяться широко — все процессы из этой цепочки легко автоматизируются.
Цифры не в пользу клиентов
Согласно исследованию Positive Technologies, в I квартале 2019 года 54% кибератак совершались с целью получения информации. Платежные карты продолжают сохранять ценность для хакеров и мошенников — на них приходится 16% всех украденных данных. Более ранние исследования IT-компании показали серьезные уязвимости финансовых приложений и сервисов. Так, в 2017 году 56% финансовых приложений содержали уязвимости высокого уровня риска. Например, позволяли получать доступ к сведениям, составляющим банковскую тайну клиентов. Тогда же в 48% мобильных банков была выявлена хотя бы одна критически опасная уязвимость. Более половины финансовых клиентских приложений (65%) имели недостатки, связанные с небезопасным хранением данных или недостаточной защитой процесса аутентификации пользователя. Уровень защищенности сервисов растет, но еще не может считаться достаточно высоким, признают IT-специалисты. Это связано как с изобретательностью мошенников, так и с уступками, на которые вынуждены идти банки.
«Банки активно пытаются идти навстречу пользователям, внедрять новые вещи, иногда, к сожалению, они не согласовываются с отделом безопасности. Иногда это происходит намеренно: условно говоря, отдел развития продуктов и дополнительных сервисов, получив отказ от отдела безопасности три раза, на четвертый раз постарается их обойти, — объясняет Гавриченков. — Мы не говорим, что это произошло в конкретном случае, но сплошь и рядом бывают такие ситуации, когда при внедрении инновационных технологий, таких как распознавание речи, активно «срезаются углы», в том числе страдает безопасность. У ряда организаций внедрение таких инноваций просто стоит у менеджеров в KPI».
Риск использования банковской информации для мошенничества считается высоким. По данным самого Сбербанка, социальная инженерия остается основным методом хищения денег у частных лиц. В 2018 году в России 80% атак на клиентов банков совершались с ее помощью. В 79% случаев жертвы поддаются на уловки и переводят деньги злоумышленникам, говорится в обзоре Treat Zone’19.
Правовые риски
Мошенничество с помощью методов социальной инженерии практически не оставляет клиентам шансов вернуть деньги на свой банковский счет. Если человек сам совершает операцию или разглашает данные, которые позволяют ее провести, карта считается скомпрометированной. В этом случае кредитные организации не несут ответственности за пропажу средств — подобный пункт считается стандартным для банковских договоров.
Согласно пользовательскому соглашению, приложение «Сбербанк Онлайн» предоставляется клиентам as is («как есть»). Банк не несет ответственности практически за любые убытки, полученные при использовании сервиса, «даже если банку было известно о возможности такого ущерба».
Это распространенная формулировка, отмечает партнер юридического бюро «Замоскворечье» Дмитрий Шевченко. «Уведомляя о том, что голосовой помощник является лишь техническим средством, не обладающим сознанием и психикой, банк фактически заявляет о том, что понятие «вины» к ситуациям использования этого помощника юридически не применимо», — поясняет юрист. Он сомневается, что в таких спорах пострадавший клиент сможет доказать, что получил ущерб именно из-за уязвимостей голосового помощника или мобильного.
Против взлома только плохие приемы
«Если в банке применяется биометрическая идентификация по голосу, то такая атака будет бессмысленной», — говорит Колесов, отвечая на вопрос о том, могут ли мошенники пользоваться уязвимостями голосового помощника Сбербанка. Пока этот сервис не предусматривает распознавания клиента по голосу. Сбербанк работает в другом направлении, пояснил зампред кредитной организации Станислав Кузнецов.
«Одновременно с другими методами, дополнительными, на стороне распознавания голоса, изучения попыток со стороны мошенников, мы дополнительный комплекс мер приняли, чтобы хеджировать этот риск на уровне наших систем, когда мы понимаем, что с большой вероятностью мошенник запрашивает эти данные», — сказал топ-менеджер. Он уточнил, что речь идет о сборе образцов голосов злоумышленников.
Такой подход может использоваться как один из инструментов борьбы с рецидивистами, соглашается Артем Гавриченков. Эксперт, впрочем, сомневается, что это легко сделать. «Я не уверен, что это настолько простая история с точки зрения законодательства, поскольку на это тоже распространяются нормы о хранении и обработке персональных данных. Закона, который бы позволял собирать биометрическую информацию о злоумышленниках без их ведома и передавать их коммерческим банкам, я не припомню», — говорит технический директор Qrator Labs.
Обратный механизм защиты — сравнивать голос клиента с ранее сданным образцом — тоже не безупречен. Есть риск, что под видом телефонного опроса злоумышленник попросит человека озвучить нужный набор фраз и цифр и уже потом использует отпечаток голоса.
Пока что лучшее, что тут придумано с точки зрения безопасности, — это кодовое слово, считает Гавриченков. Но главный недостаток этого подхода — риск, что клиент просто забудет код. Варианты с СМС-подтверждением или уточнением других данных специалисты по информационной безопасности тоже не считают идеальными. «Тут вообще хороших решений нет. Есть плохие и «так себе», — резюмирует один из собеседников Банки.ру.
Юлия КОШКИНА, Banki.ru
Статья носит информационный характер и публикуется с целью предупреждения случаев мошенничества в финансовой сфере.
\n \n\t\t\t \n\t\t\t \n\t\t \n\t»,»content»:»\t\t
\n\t\t\t\u0412\u044b \u043d\u0435 \u0430\u0432\u0442\u043e\u0440\u0438\u0437\u043e\u0432\u0430\u043d\u044b \u043d\u0430 \u0441\u0430\u0439\u0442\u0435.\n\t\t \n\t\t
\n\t\t\t \n\t\t\t\t\u0412\u043e\u0439\u0434\u0438\u0442\u0435\n\t\t\t \n\t\t\t\u0438\u043b\u0438\n\t\t\t \n\t\t\t\t\u0437\u0430\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0438\u0440\u0443\u0439\u0442\u0435\u0441\u044c.\n\t\t\t \n\t\t \n\t»>’ >
Когда и как использовать роботов-операторов вместо колл-центра
Раньше от роботов-автоответчиков все плевались — у них был «пластмассовый» голос и неудобный интерфейс. Однако даже ранние версии роботов-операторов существенно уменьшали затраты больших компаний на консультантов. Сейчас роботы-автоответчики учатся на основе ИИ, обладают более естественным голосом и не требуют нажатия кнопок на смартфоне.
Мы изучили о них все и расскажем:
- какому бизнесу подойдет использование голосовых роботов,
- их преимущества и недостатки,
- какие функции есть у роботов-операторов на текущей степени развития,
- возможности и цены сервисов, которые занимаются внедрением голосовых роботов.
Современные голосовые роботы уже не те, что раньше
Кому подойдет использование роботов-операторов
Внедрение голосового робота подойдет бизнесу, у которого:
- сложный продукт с необходимостью консультации или информирования,
- услуги с предварительной записью,
- заказ доставки продукта по телефону.
Если бизнес соответствует одному из этих условий, с большей вероятностью внедрение голосового помощника сэкономит бюджет. Чтобы понять, будет ли робот-оператор рентабелен, нужно сравнить затраты на консультанта с затратами на внедрение и обслуживание технологии.
Роботам не платят зарплату, а сервис зачастую стоит дешевле
В каких случаях не стоит внедрять робота-оператора:
- небольшой бизнес с малым количеством звонков — трубку берет сотрудник с другими обязанностями,
- продажа товаров и услуг, которая не требует консультации.
Если бизнес не подразумевает использование телефонной связи в качестве активного источника лидогенерации, то нет смысла подключать робота-автоответчика на постоянной основе. В этой ситуации можно воспользоваться разовыми услугами. Например, для обзвона клиентской базы — людей, которые указали свои контактные данные при регистрации карты лояльности. Автообзвон подойдет, если информацию неудобно донести в формате SMS-сообщения.
Преимущества и недостатки использования голосовых роботов
Преимущества
Экономия
С развитием технологии все больше увеличивается ее рентабельность в бизнесе. Благодаря распознаванию речи и машинному обучению уровень сервиса роботов-операторов вырос и они могут подменять человека на более сложных задачах.
Автоматизация рутинной работы
Какие функции роботы-операторы могут осуществлять самостоятельно:
- запись лида в CRM-систему с сегментированием и вспомогательной информацией,
- осуществление автодозвонов и рассылок по клиентской базе.
Скорость реакции на обращение
Голосовые роботы могут моментально принимать звонки. Если операторы заняты, робот-автоответчик подхватит клиента, первично проконсультирует и удержит его до появления оператора.
Круглосуточная поддержка
Голосовые роботы круглосуточно на связи. Если клиент звонит в нерабочее время, робот-автоответчик зафиксирует обращение клиента в CRM-системе и пометит заявку на обработку менеджером.
Недостатки
Люди предпочитают живую консультацию
Как правило, клиенты менее охотно общаются с голосовыми роботами, чем с людьми. Виной тому предыдущий опыт взаимодействия с неудобными скриптовыми автоответчиками. Тогдашние голосовые роботы раздражали, вынуждая пользователя разбираться в меню, нажимать на кнопки и долго ожидать ответа консультанта.
На текущем уровне развития, голосового робота можно спутать с человеком. Его речь будет звучит более естественно, чем раньше. Он сможет понимать запрос клиента по ключевым словам и давать правильный ответ при несложной ситуации.
Иногда понимать клиентов непросто
Какие задачи может решить голосовой робот
Первичная консультация
Голосовой робот может принимать обращения человека и отвечать на вопросы с заранее сформулированными ответами. Если клиентский запрос выбивается из списка популярных, робот-автоответчик может перевести клиента на консультанта. Развитые голосовые роботы могут понимать запрос клиента и переключать клиента на определенного специалиста, например, на специалиста техподдержки. Также голосовые роботы могут распределять клиентов по линии, исходя из текущей загрузки консультантов.
Обзвон клиентской базы
Какие задачи можно решить массовым автодозвоном:
- оповещение об акциях,
- обзвон холодной клиентской базы,
- сбор обратной связи для оценки качества продукта или сервисного обслуживания,
- поддержание актуальности клиентской базы.
Ответ в нерабочее время
Если клиент позвонит в поздний час или выходной, робот-автоответчик зафиксирует запрос и передаст его в CRM-систему. Голосовому роботу можно подготовить реплику, которая попросит дождаться звонка консультанта в рабочее время — конверсий будет больше.
Информирование клиента
Какие оповещения может выполнять голосовой робот:
- информирование о доставке товара,
- согласование времени доставки,
- предупреждение о оплате тарифа, истечении срока хранения, а также о предстоящем сеансе,
- подтверждение оформления заказа.
Сбор данных и аналитика
Автоматическая запись лидов в CRM освобождает менеджеров по продажам от рутинной деятельности. Голосовые роботы сохраняют историю звонка, могут транскрибировать разговор в текст, а также классифицировать лида по определенным признакам в базе CRM-системы.
Полученные данные можно анализировать, чтобы:
- оценить эффективность работы менеджеров,
- выявить боли и потребности клиентов для улучшения сервиса или продукта,
- сегментировать целевую аудиторию для более эффективного использования рекламных акций.
Брендинг
Узнаваемый голосовой робот может стать частью лица компании. Например, у робота может быть свое имя и уникальный, брендированный голос. Наглядный пример: готовой помощник «Алиса» от экосистемы «Яндекс».
Сервисы для создания голосовых роботов
Mango
Голосовой робот Mango — лидер рейтингов IP-телефонии от CNews за 2021 и 2022 год.
Возможности:
- Голосовой робот с технологией распознавания речи и возможностью самообучения.
- Поддержка интеграции и обмена данными с популярными сервисами, такими как «1C», AmoCRM, RetailCRM, «Битрикс24», «Мегаплан», YClients, Zoho CRM.
- Интеграция с другими сервисами через API и Webhooks.
Стоимость: базовый тариф с голосовым роботом вместо одного оператора — 5 000 рублей, если используется до 1 600 минут в месяц.
Голосовой робот Mango
Мегафон
Робот-автоответчик «Мегафон» — 2 место в рейтингах CNews за 2021 и 2022 год.
Возможности:
- Голосовой робот, шаблоны которого записывают профессиональные дикторы.
- Личный кабинет сервиса, который поддерживает настройки определенных задач: например, информирование о товарах и услугах или уведомление о задолженности.
Стоимость: от 2 до 5 рублей за минуту разговора в зависимости от номера клиента.
Голосовой робот «Мегафон»
МТС
Возможности:
- Интерактивное голосовое меню, технология распознавания речи.
- Система аналитики в личном кабинете.
- Поддержка интеграции с CRM.
Стоимость: ежемесячная плата — 640 рублей за 400 звонков, 4 800 рублей за 3 000 звонков и 16 000 рублей за 10 000 звонков. Тариф может стоить дороже при расширении функционала.
Голосовой робот «МТС»
«Телфин»
Голосовой робот от «Телфин» — компании, которая предоставляет продукты для внедрения облачной АТС и IP-телефонии.
Возможности:
- Интерактивное голосовое меню и возможность обработки до 100 звонков одновременно.
- Готовые интеграции со всеми популярными CRM, возможность интеграции через API.
- Расширение функционала и добавление скриптов автоматизации через REST API.
Стоимость: индивидуальная для каждого пользователя в зависимости от задач, которые будет выполнять робот.
Голосовой робот «Телфин»
Aimylogic
Умный голосовой робот от Aimylogic — компании, которая занимается разработкой чат-ботов с искусственным интеллектом.
Возможности:
- Понимание речи клиентов, их интонации и навыки самопрограммирования.
- Интеграция с CRM и другими сервисами через API и Webhooks, также нативная интеграция с «Битрикс24».
- Интеграция с любой АТС.
- Поддержка работы в многопоточном режиме.
Стоимость: есть бесплатный тестовый тариф на 25 минут. Платные тарифы начинаются от 990 рублей за 200 минут. Дополнительная минута разговора сверх плана стоит 2,58 рублей.
Голосовой робот Aimylogic
MTT
MTT VoiceBox — робот-оператор от компании MTT.
Возможности:
- Голосовой робот с распознаванием и синтезом речи, а также сильным логическим модулем.
- Возможность интеграции с вашей CRM через API.
- Выбор между синтезом и предзаписью речи.
Стоимость: от 1,6 рублей за минуту звонка.
Голосовой робот MTT
MCN
Голосовой робот от MCN — компании, которая предоставляет услуги телефонии для бизнеса.
Возможности:
- Поддержка реплик с использованием предварительно записанных аудио.
- Возможность интеграции с популярными CRM и ERP через API.
Стоимость: пакет функций для подключения голосового робота будет стоить от 3175 рублей в месяц.
Голосовой робот MCN
«РобоЗвон»
Умный голосовой робот «РобоЗвон» — продукт, который можно использовать для массового автообзвона при холодных продажах.
Возможности:
- Распознавание и синтез речи, которая сильно похожа на человеческую.
- Возможность интеграции с CRM.
Стоимость: стоимость разработки обсуждается индивидуально с заказчиком.
Голосовой робот «Робозвон»
«Звонок»
«Звонок» — сервис, предназначенный для внедрения голосового робота в бизнес.
Возможности:
- Распознавание и синтез речи с применением в работе интерактивного голосового меню.
- Возможность интеграции со сторонними сервисами через API и Webhooks.
Стоимость: минута исходящего звонка будет стоить 1,9 рубля, также есть дополнительные услуги которые оплачиваются отдельно. Например, запись голоса профессионального диктора.
Голосовой робот «Звонок»
SmartDialogs
SmartDialogs — сервис, который занимается разработкой голосовых роботов.
Возможности:
- Использование технологий машинного обучения для синтеза естественной речи.
- Поддержка омниканальности с возможностью перевести клиента в мессенджер и там с ним продолжить общение.
- Связь со сторонними сервисами через API.
Стоимость: виртуальный оператор будет стоить от 5 рублей за минуту, а цифровой контакт-центр для массового автодозвона — до 4 рублей за минуту.
Голосовой робот SmartDialogs
«Инфобот»
«Инфобот» — телефонный робот для внедрения в бизнес.
Возможности:
- Использование ИИ для лучшего понимания клиентских запросов и синтез натуральной речи.
- Интеграция со сторонними сервисами через API.
- Возможность отправки HTTP-запросов через Webhooks.
Стоимость: минимальная стоимость минуты — 4,8 рублей при оплате сервиса на 15 000 рублей.
Голосовой робот «Инфобот»
Zvonobot
Zvonobot — робот-оператор, который используют для голосовых рассылок.
Возможности:
- Умный робот с возможностью распознавания речи клиента и использованием интерактивного голосового меню.
- Открытый API для интеграции.
Стоимость: средняя стоимость звонка при одном автообзвоне — 0,9 рубля.
Голосовой робот Zvonobot
Дальше технологии голосовых роботов будут только развиваться. Применение текстовых нейросетей позволит еще глубже понимать клиентские запросы — необходимость в привычных колл-центрах отпадет. Поэтому изучать подобные технологии стоит уже сейчас, чтобы у вашего бизнеса было конкурентное преимущество.
Если вы не знаете, какой из роботов вам подойдет, хотите получить консультацию или решить любую другую проблему бизнеса, создайте задачу на платформе Workspace и профессионалы помогут вашему бизнесу.
Workspace.LIVE — мы в Телеграме
Новости в мире диджитал, ответы экспертов на злободневные темы, опросы, статьи и многое другое. Подписывайтесь: https://t.me/workspace
Вакансии
- Программист 1С-Битрикс
Рикорда Иваново от 80 000 - Креативный копирайтер
ChatCrafters Удаленная работа 40 000 – 55 000 - Бизнес-ассистент
ИП Еремина НН Удаленная работа 10 000 – 100 000 - Контент-менеджер для интернет-магазина
Webteam Удаленная работа По договоренности - Специалист для закупок на зарубежных сайтах
Webteam Удаленная работа По договоренности
Голосовые помощники становятся все человечнее. А робот может быть личностью? Почему большинство выбирают женский голос?
Siri, Alexa, Алиса — почему многие голосовые помощники носят женские имена и общаются с нами женскими голосами? Почему мы предпочитаем знакомые гендерные роли бесполому механическому голосу? Может ли искусственный интеллект избавиться от предвзятости, которая существовала веками? И что лучше — бесхарактерная машина, созданная для выполнения конкретных функций, или же очеловеченный ИИ со своим характером, привычками и предпочтениями? Организатор открытой конференции по искусственному интеллекту OpenTalks.AI, главный аналитик Центра по искусственному интеллекту МФТИ Игорь Пивоваров и директор центра искусственного интеллекта ПАО «МТС» Аркадий Сандлер обсуждают будущее голосовых помощников и какими они должны быть.
- Анонс первого выпуска «Generation ИИ» — новой программы про искусственный интеллект (Смотреть)
Сандлер: Здравствуйте! Это программа «Generation ИИ».
Пивоваров: Меня зовут Игорь Пивоваров, я главный аналитик в Центре искусственного интеллекта МФТИ, организатор большой конференции OpenTalks.AI.
Сандлер: Я Аркадий Сандлер, директор Центра искусственного интеллекта компании МТС.
Пивоваров: И сегодня мы поговорим про искусственный интеллект, а конкретно про разговорный искусственный интеллект, про тех, кто живет в нашем телефоне, ― про голосовых помощников. Сегодня они немножко скучные и безжизненные, но, возможно, завтра будет по-другому: они будут с эмоциями, они станут личностями. Хотим ли мы, чтобы они стали личностями?
Сандлер: Мы сегодня обсуждаем вопрос разговорного интерфейса, а если еще быть точнее, проблему гендерной принадлежности или нейтральности его.
Пивоваров: Первые ассистенты появились еще давно, еще до того, как мы начали говорить про искусственный интеллект. Ездим на машине, еду с навигатором. Я не знаю, как у тебя, а у меня был женский голос сразу, который говорил, куда ехать. Я почему-то ее звал Одри, потому что похожа на Одри Хепберн.
Первый момент, с которым мы вечно рубились: она мне говорит ехать туда ― и регулярно не туда. Я так понимаю, что это был… Это были, наверно, самые первые. Хотя, конечно, в истории было еще раньше. А потом появилась уже Сири, Алекса, Алиса, МТС делает свой бот. Все девочки. Почему все девочки?
Сандлер: Не все девочки. Во-первых, интересно, что ты об этом говоришь, потому что ты явным образом гуманизировал свой просто роботический голос, который помогал тебе ехать по дороге. Ты же понимал разумом, что он тебе не ответит, но ты все время с ней ругался, ты рассказывал. Это очень похоже на ситуацию, когда мы едем по дороге, нам кто-нибудь мешает, и мы начинаем ему кричать, как будто он может услышать нас.
Это примерно то же самое, то есть абсолютно немотивированная, совершенно нерезонная, разумом понятно, что бессмысленная идея. Но при этом здесь интересный фактор происходит: ты гуманизировал своего вот этого помощника, который старался тебе помогать с ездой по дороге. Есть и голосовые помощники, где голос можно настроить. Собственно, та же самая Сири.
Пивоваров: Ну да, мы сейчас ездим с Василием Уткиным.
Сандлер: Да, мы сейчас ездим, в навигатор мы можем поставить Васю Уткина или Йоду.
Пивоваров: Йода стоит.
Сандлер: Да, Йоду, например.
Пивоваров: «Правильный путь, падаван».
Сандлер: А, например, у Google Ассистента можно настроить, какой голос, Сири можно настроить, какой голос. У МТС, кстати, чат-бот тоже не девочка.
Пивоваров: Они скучные, они нейтральные. Вот только что голос женский, а так на самом деле там же нет внутри характера. А будет характер?
Сандлер: Они ориентированы на задачи в основном, потому что сейчас, как ты знаешь, довольно сложно сделать универсального голосового ассистента, который способен с тобой говорить обо всем. Он скорее имитирует понимание и поддерживает диалог в случае, когда не понимает, о чем ты его спрашиваешь. А если голосовой искусственный интеллект предназначен для чего-то конкретного, то он, наоборот, тебя спросит сформулировать это четче, яснее, чтобы ему это было понятно, например, тот, который помогает клиентам какой-нибудь крупной компании. И тут совершенно неважно, какого пола. Здесь важно, чтобы клиенту нравилось.
Пивоваров: Слушай, а мне кажется, что важно, какого пола. Когда мы создаем этот искусственный интеллект, мы же воплощаем какие-то свои чаяния и мечты. Может быть, люди, которые это делали, потому женский голос, что пытаются создать некоторую свою, знаешь, идеальную женщину. Она будет правильно разговаривать, она не будет ссориться, не будет ругаться. Может быть, в этом есть какой-то такой, знаешь, скрытый смысл вот этих женских голосов?
Сандлер: Ты на это смотришь как-то очень издалека и упускаешь из виду совершенно однозначный мотив возникновения этих голосовых ассистентов ― это часть бизнеса. И когда мы создаем, как, например, мы в моем Центре искусственного интеллекта создаем, собственно, разговорный искусственный интеллект, мы его создаем для совершенно конкретных задач, очень понятных задач. И нам не важно, и никому не важно, какие у меня фантазии по идеальному собеседнику и с кем мне больше всего нравится общаться: с какой-то вымышленной, не знаю, удаленной от меня актрисой из кино или моим научным руководителем из института, разговор с кем для меня был бы интересен.
Я думаю о том, с кем наши клиенты захотят поговорить. Именно такого персонажа стараюсь выбрать для того, чтобы максимально удовлетворить их запрос или, точнее, иногда просто не вызвать какого-то негатива.
Пивоваров: Но ты будешь на себя все равно ориентироваться, все равно ты будешь как бы по образу подобию делать. В каком-то смысле образ клиента ― это же все равно ты сам.
Сандлер: Ну конечно, я человек, мне же хочется, чтобы он был клевый.
Пивоваров: Да, конечно, конечно.
Сандлер: Это понятно. Но гендерная принадлежность ― на мой взгляд, это совершенно отсутствующая проблема в данном случае.
Пивоваров: Ты не смог бы разговаривать вот с абсолютно, знаешь, бесцветным голосом, у которого нет ни пола, ни характера. Это было бы невозможно. Мы же люди, нам все равно нужна… Мы ищем в общении чего-то.
Сандлер: Нам хочется переложить социальную функцию, нам хочется, чтобы тот, с кем мы разговариваем нашим привычным способом коммуникации, чтобы он отвечал каким-то нашим социальным потребностям.
Мы, когда вот занимались этим вопросом активно, в том числе исследовали, как это делают в мире. И, например, нашли специально сгенерированный, собранный такой гендерно-нейтральный голос, и подумали: «О! Отличная история! Почему бы нам не попробовать гендерно-нейтральный голос? Может быть, это и есть решение, потому что мы же не знаем, с кем больше хотят общаться наши клиенты».
Но мы поняли, что это совершенно неприемлемый голос. С ним не то что неприятно разговаривать, он отталкивающий. Поэтому все-таки, наверно, голос должен быть какой-то гендерно… Принадлежащий какому-то гендеру: женский или мужской. Но пусть клиент решает.
Пивоваров: Голос ― это часть нашей жизни.
Сандлер: Ты страшно интересную тему поднял.
Пивоваров: И бизнес тогда будет классный, когда он будет с тобой разговаривать, когда он будет естественно разговаривать, а не просто «пополните баланс вашего телефона». Это должно быть что-то более…
Сандлер: Это страшно интересная тема, но она не имеет никакого отношения к голосу, и я тебе объясню. Эта страшно интересная тема имеет отношение к персонажу, к характеру, который живет за этим голосовым ассистентом, за этим разговорным искусственным интеллектом.
Обычно, если создатель такой системы хочет, чтобы клиенты, чтобы пользователи разговаривали с этим, с этой системой много и не только «по делу», то он прорабатывает, как только может, характер этого голосового ассистента, этого разговорного искусственного интеллекта. И потом уже подбирает, собственно, голос под этот характер.
И этот же путь проходят многие, кто пытается в эту сторону идти, потому что опять же та же самая прекрасная, очень большая и крупная компания с хорошим поиском сделала такого ассистента, у которого не существует характера. Они специально, очень нарочито оставляют исключительно ориентированного на задачи такого ассистента, персонажа без какого-то характера, они специально этого не делают.
Большинство тех, кого мы знаем, кто сейчас разрабатывает голосовых ассистентов или не только голосовых, любой формы разговорных, разговорные искусственные интеллекты, системы-помощники, как правило, прорабатывают характер, исходя из этого, реакции на социальные взаимодействия, исходя из этого, ответы на вопросы: «Мальчик ты или девочка? Откуда ты взялся?» и так далее, и так далее.
То есть на самом деле важным вопросом является, что это за характер, что это за персонаж находится за голосом, за внешним разговорным интерфейсом.
Пивоваров: Нет, характер ― это совершенно крутая тема. И когда мы научимся моделировать хоть какой-то характер, вот это будет совершенно другая история.
Сандлер: Друг мой, этот вопрос уже решен довольно давно. В мире существует масса людей, которые умеют разрабатывать и прорабатывать характеры, одних сценаристов сериалов сколько! А сколько этих сериалов! Они же специалисты по созданию характеров, по написанию диалогов и так далее. Это важная часть. Насколько я знаю, все компании, которые занимаются разговорными интерфейсами и не хотят, чтобы их разговорный интерфейс был только ориентированный на выполнение задач, сейчас у всех есть такие сотрудники.
Пивоваров: И самая крутая тема в этом плане ― помнишь, был фильм этот, «Она», Her?
Сандлер: Да.
Пивоваров: Где вот этот прямо голос ― он не просто голос, он становится такой частью жизни, он там отвечает каким-то чаяниям человека. И настолько она своим характером его обвораживает, что он в результате влюбился в нее.
Сандлер: Да, это и есть наше будущее, конечно.
Пивоваров: Давай еще с другой стороны на это посмотрим: вот это ― нейтральный голос или эмоциональный. Мне кажется, что это еще связано с тем, что как бы нейтральному голосу сложнее что-то простить. Мы же существа, мы люди, мы склонны прощать что-то человеку, который нам нравится, и с осторожностью относиться к любому действию, которое делает человек, который нам не нравится.
Поэтому если этот голосовой ассистент, этот искусственный интеллект, если он становится похожим на нас, если он тебе начинает нравиться, то ты как бы можешь не обратить внимания на то, что он делает какие-то глупости. А если это будет такой прямо кондовый робот, который там очень четко разговаривает, то сразу начинаешь раздражаться. Любую мелочь мы не будем прощать.
Сандлер: Или ровно наоборот. Или ровно наоборот: ты разговариваешь с роботом, ты понимаешь, что это робот, что он не может быть таким же умным, как человек, так же нормально реагировать, как человек. И ты говоришь: «Ладно, что с тебя взять, железяка?».
Пивоваров: Тоже верно, тоже верно. Но когда робот этот начинает учиться, и для того, чтобы он становился все более информированным и к тебе лучше подстраивался, мы его начинаем учить на данных, на большом массиве данных.
Сандлер: Да, конечно.
Пивоваров: На реальных данных, на реальных разговорах, на реальных людях. И оказывается, что часто эти данные оказываются, что называется, со смещением. Они оказываются чуть предвзятыми.
Сандлер: Очень по-человечески.
Пивоваров: Очень по-человечески, да. И мы начинаем учить вот этого голосового помощника, наш искусственный интеллект, на данных, в которых уже заранее заложено какое-то смещение. Известный этот кейс про судебную систему Compas, которая делала рекомендации для судей по решениям и оказалась смещена в сторону, она считала чернокожих более склонными к преступлениям и почти всегда выносила им обвинительные приговоры.
Что делать с этой. Она есть, эта предвзятость. Что с ней делать?
Сандлер: Чернокожий, не чернокожий ― для России это не такой важный фактор.
Пивоваров: Да.
Сандлер: И у нас это не очень близко.
Пивоваров: У нас есть свои, наверно.
Сандлер: Но у меня есть к тебе вопрос. Скажи, пожалуйста, представь себе, что ты берешь семейного водителя, который будет возить тебя, жену, детей. И пришло у тебя два кандидата. Один пришел благообразный, в рубашке, брюках и туфельках, а другой ― такой немножко расхристанно-расслабленный, с татуировками, и притом не те, которые сейчас татуировки как искусство, а такие, знаешь, синие-синие. Ты кого предпочтешь из них? Просто по внешнему виду.
Пивоваров: По внешнему виду. Так надо сперва понять, как люди водят. Может быть… То есть, ты хочешь сказать, что я среагирую по первому впечатлению.
Сандлер: Да они оба могут быть одинаково прекрасные водители.
Пивоваров: Но если они будут оба одинаково прекрасные водители, то, наверно, потенциально, наверно, я предпочту того, кто просто больше отвечает моему впечатлению о том, каким должен быть идеальный водитель.
Сандлер: То есть ты предвзят.
Пивоваров: Мы все предвзяты.
Сандлер: Потому что у тебя есть представление об идеальном водителе.
Пивоваров: Мы все предвзяты. Слушай, но человеку это можно простить.
Сандлер: А почему роботу-то надо это не прощать?
Пивоваров: Это робот. В моем понимании он должен быть, знаешь, «идеальным».
Сандлер: Кому он должен быть? Он учится на человеческих данных.
Пивоваров: Слушай, но предвзятость у человека как-то легче простить и принять, чем предвзятость у системы искусственного интеллекта. Представь себе, что, например, я сторонник здорового питания, допустим, и я поэтому не хожу в некоторые типы кафе, потому что там как бы не очень здоровая еда. И если вот на таких, как я…
Сандлер: Как тебе рассказали, что там не очень здоровая еда.
Пивоваров: Окей, окей, да. Если на таких, как я, воспитать, значит, систему такого разговорного помощника, то он будет давать советы, где поесть, и он будет… Я же предвзят.
Сандлер: На таких, как ты.
Пивоваров: Да, на таких, как ты. И он будет тоже делать такое смещение, что, в принципе, наверно, не очень правильно в адрес тех кафе, в которые я не ходил. Но для человека это легко простить, как бы человек, а если я буду знать, что у меня в телефоне предвзятая система, которая уже как бы смещена… Я хочу понять, почему она смещена, кто это сделал.
Сандлер: Игорь, но ты автор этих данных. Это ты автор этих данных.
Пивоваров: Нет, не я, я даже не знаю, какие данные там использовались, со мной же не обсуждают. Слушай…
Сандлер: Но это же люди.
Пивоваров: Как общество, например, мне было бы интересно, на каких данных обучают вот этих Сири, Алису, Алексу. Мне же это не показывают.
Сандлер: Конечно.
Пивоваров: Наоборот, иногда всплывает, что там, знаешь, а вдруг выяснилось, что сидит там тысяча индусов, пардон, и слушает разговоры, что-то, значит, размечают.
Сандлер: Почему пардон? Чем индусы плохие, чтобы слушать разговоры и помогать размечать данные?
Пивоваров: Мои разговоры! Почему должны слушать индусы?
Пивоваров: Помогать размечать данные. То есть ты к этому относишься спокойно.
Сандлер: Да конечно, я отношусь к этому спокойно, более того, я понимаю, почему системы на основе машинного обучения рекомендуют так или иначе, работают так или иначе, потому что они обучаются на исторических данных. И да, так вышло, что среди анализируемых факторов про каждого отдельно взятого заключенного эта система учла также цвет кожи, и оказалось, что это единственная корреляция к каким-то характеристикам для рекомендаций или нет. И сказали: «Вот! Это предвзятая система». Конечно, предвзятая, да потому что люди предвзятые.
Пивоваров: Это стало этическим взрывом реально.
Сандлер: Или нет.
Пивоваров: Потому что одно дело ― статистика.
Сандлер: Кстати, про статистику.
Пивоваров: А другое дело ― конкретный человек.
Сандлер: Может быть, ровно наоборот? Может быть, эта предвзятость не потому, что люди предвзятые, а потому что статистика показывает, что эта корреляция существует? И нам страшно не нравится вся предвзятость и страшно не нравится всякого рода дискриминация.
Пивоваров: Искусственный интеллект для многих, и для меня в частности, воспринимается как некая система, которую мы пытаемся сделать совершеннее, чем человек, в каких-то, по крайней мере, смыслах. Она быстрее, она обладает большим массивом знаний, данных, большим массивом данных. Знаний особенных там пока еще нет.
Сандлер: Знания она строит.
Пивоваров: Знания она строит, верно.
Сандлер: Она пытается построить знания на тех данных, которые мы ей даем.
Пивоваров: Но просто страшно как бы представить себе, что будет нечто очень быстрое, обладающее большим объемом данных и способное принимать решения, если оно будет так же предвзято, а может, даже хуже предвзято, чем человек, в каких-то областях. Мы же не можем это проконтролировать.
Сандлер: Друг мой, хуже предвзятым, чем любой отдельно взятый человек, быть невозможно.
Пивоваров: То есть ты думаешь, что, переводя в статистику, усредняя все это…
Сандлер: Да.
Пивоваров: Мы получим в среднем менее предвзятого, чем каждый отдельный конкретный?
Сандлер: Конечно, конечно.
Пивоваров: Недоказуемо, не думаю.
Сандлер: Конечно, недоказуемо, но так математически не доказано, что мы не живем сейчас в матрице.
Пивоваров: Сейчас в наших данных, как факт, есть некоторая заложенная предвзятость или дискриминация: мужчина, женщина, белый, чернокожий. Наша история кредитная. И в этом смысле мы с неизбежностью эти данные привносим в то, что мы создаем.
Сандлер: Совершенно верно. Человечество само только совсем недавно встало на путь попытки избавиться от какой-то части предвзятости в своем мировоззрении. А мы обучаем системы на исторических данных.
Пивоваров: С большой скоростью.
Сандлер: С большой скоростью. А исторические данные, те, которые есть, других писателей у нас для вас нет.
Пивоваров: Это правда. И мы тем самым как бы обнажаем свои собственные проблемы.
Сандлер: Конечно. Это срабатывает как увеличительное стекло.
Пивоваров: Да, да.
Сандлер: Когда в Google стали с помощью рекомендаций системы на основе искусственного интеллекта на машинном обучении, рекомендации, кого брать или кого не брать на позицию разработчика, эта система рекомендаций дала перекос в сторону мужчин.
Пивоваров: Понятно.
Сандлер: И это просто сработало как увеличительное стекло. Это обозначало только одно: в Google ранее предпочитали мужчин на позицию разработчика.
Пивоваров: Просто разработчиков статистически больше среди мужчин, это правда, да.
Сандлер: Было.
Пивоваров: Но предвзятость есть.
Сандлер: Было. На сегодняшний момент, особенно с развитием, кстати говоря, машинного обучения и искусственного интеллекта, количество девушек, приходящих в эту индустрию, совсем не меньше, чем юношей.
Пивоваров: Слушай, меня все равно не устраивает эта история с предвзятостью. Я считаю, что нужно принимать любые усилия для того, чтобы с ней бороться.
Сандлер: Для того чтобы машины были непредвзятыми, надо сначала людям научиться быть непредвзятыми, и потом система унаследует эту непредвзятость у людей.
Пивоваров: Не дает мне покоя эта предвзятость. Я не могу смириться с тем, что в данных, на которых растет эта система искусственного интеллекта, будет заранее заложенная какой-то дефект, какое-то смещение. Мы с этим должны бороться.
Сандлер: Но есть, для этого есть совершенно понятные средства, которыми пользуются разработчики довольно широко. Когда мы готовим дата-сеты, мы не берем просто сырые данные, мы их довольно серьезно обрабатываем. Системы искусственного интеллекта способны обучаться не только на исторических данных, не только на дата-сетах.
Системы искусственного интеллекта способны обучаться в том числе на некоторых экспертных данных, фактологических данных, которые тоже учитываются, которые тоже разрабатываются.
Более того, при принятии решения, условно, свежесть данных, на которых обучается модель, может тоже получать свои какие-то экстравеса и учитываться с той или иной значимостью в конечной обученной модели. Например, более свежие данные могут быть более значимы для обучения, чем более старые данные. Так что здесь все это…
Пивоваров: Кто работает с этими данными? Вот кто эти люди, которые занимаются нормализацией, анализируют? Инженеры?
Сандлер: Это такие же дата-инженеры, конечно, которые с этим работают.
Пивоваров: А есть там, я не знаю, психологи, лингвисты, священники, пардон? Есть люди, которые занимаются не программированием, а тем, что принято называть этикой?
Сандлер: Лингвисты тоже занимаются программированием. Но да, лингвисты обычно присутствуют в этом цикле работ.
Пивоваров: Слушай, я считаю, что это вопросы, реально связанные с этической стороной. И по-хорошему, в каждой большой компании должен быть этический комитет. Вот Google, говорят, недавно сделал этический комитет. Должен быть нормальный этический комитет. В медицине есть этический комитет, там, где мы говорим про пациентов, а здесь идет речь о работе с огромным количеством людей.
Сандлер: В любой крупной компании, и тем более публичной торгующейся на рынке компании, существует такая деятельность, которая называется compliance. И часть этой деятельности ― это, собственно, та самая этика, про которую ты говоришь. И это очень важная история.
Пивоваров: Сompliance ― это сухая история, сухая.
Сандлер: Это очень важная история. Именно эти люди этим занимаются. И вот эта этика, про которую ты говоришь, является частью всей этой истории. С другой стороны, этика использования систем искусственного интеллекта ― это отдельная тема, и эта этика существует, и эту этику можно обсуждать. Этика искусственного интеллекта не существует, а этика применения искусственного интеллекта существует.
Пивоваров: Существует этика применения искусственного интеллекта.
Сандлер: Да.
Пивоваров: Но существует этика разработки. Вернее, так: она пока еще не существует, она начинает появляться, этика разработки систем искусственного интеллекта, когда люди должны понимать, что они делают, осознавать как бы, знаешь, меру ответственности, несколько раз проверить те же самые данные.
Сандлер: А я сейчас тебе возражу, потому что этики…
Пивоваров: Давай.
Сандлер: …Разработки искусственного интеллекта не существует.
Пивоваров: Как это? А этика разработчика существует?
Сандлер: Нет-нет, рынок все выправит. Рынок все отлично поправит.
Пивоваров: А, рынок.
Сандлер: Если твоя система начинает давать плохие результаты, предвзятые результаты, те результаты, которые компания не может использовать, то эта система никому не нужна и ты за нее не получишь денег, будь ты внутренний или внешний разработчик. Точно так же, как в том же самом Google разработку вот этой системы, которая рекомендует для эйчара при подборе разработчиков, ее просто выключили и отправили на переделку, потому что она плохая. Здесь рынок все поправит.
Пивоваров: Категорически с тобой не согласен, абсолютно не согласен. Возьми, например, замечательную систему Facebook, уж пардон, но назову по имени, да. У Facebook куча народу сидит в этом фейсбуке сейчас постоянно, его крутят.
Сандлер: Да, конечно.
Пивоваров: Почему? Потому что главная цель, которая у них есть, ― чтобы человек как можно больше времени проводил в нем, и все делается для этого: лента настраивается, сообщения подгоняются и прочее. И люди начинают там все больше времени.
Сандлер: А что-то тут не так?
Пивоваров: Я считаю, что это категорически… Это неэтично по отношению к человеку. Люди бы… Если бы ты человека спросил, каждого конкретного: «А вы… Это является вашей целью ― проводить там много времени?», я думаю, что большинство сказало бы нет. Здесь нет никакой… Я не вижу здесь этики разработчика.
Сандлер: А не коммунист ли вы, дорогой мой? Почему вы решаете за кого-то другого…
Пивоваров: А кто должен решать?
Сандлер: …Как люди будут проводить время?
Пивоваров: А кто должен решать?
Сандлер: Да если я хочу сегодня полдня просидеть в фейсбуке, почему ты меня лишаешь этого права?
Пивоваров: Хорошо, если ты сегодня хочешь так…
Сандлер: Почему ты придумываешь, что Facebook должен ввести ограничения на время, которое я провожу в фейсбуке? А Facebook ― это бизнес.
Пивоваров: Подожди.
Сандлер: Фейсбуку необходимо развивать бизнес.
Пивоваров: Очень специфический бизнес, верно, да.
Сандлер: Какой бы ни был.
Пивоваров: Но он действует на миллиарды людей.
Сандлер: А таксист хочет, чтобы ты все время ездил на этом такси.
Пивоваров: Это верно.
Сандлер: А Facebook хочет, чтобы ты проводил время в фейсбуке, а Google хочет, чтобы ты все время безостановочно что-то искал, а потом кликал на рекламные объявления.
Пивоваров: Точно, точно.
Сандлер: И любой бизнес, который ты возьмешь… А, кстати! Знаешь главный неэтичный бизнес на свете?
Пивоваров: Так.
Сандлер: Это медицинские клиники! Они страшно хотят, чтобы ты болел! Поэтому о каком ты…
Пивоваров: Частные особенно.
Сандлер: Да, особенно частные. О какой ты этике здесь говоришь?
Пивоваров: Ну хорошо, а когда ты проектируешь своего бота…
Сандлер: Да.
Пивоваров: Чтобы он разговаривал с человеком, ты на каких принципах стоишь? Вы как это делаете?
Сандлер: Мы в МТС делаем следующим образом. Во-первых, наш чат-бот, который работает, у него очень понятная задача ― максимально облегчить опыт клиентский для наших клиентов, потому что если вдруг клиент обращается в поддержку, а это поддержка, это значит, уже ему нужно как можно быстрее помочь. И поэтому мы проектируем так, чтобы человек как можно быстрее получил помощь, которая ему нужна.
Мы начали с того, что наш чат-бот со всеми общался на ты, потому что мы подумали, что целевая аудитория чат-бота, за исключением некоторых специфических аудиторий, ― это аудитория, которая привыкла общаться на ты. Но поскольку наша система все время следит за тем, как общаются люди с этим чат-ботом, мы выявили, что людям больше нравится, что чат-бот к ним обращается на вы.
Пивоваров: Мне, кстати, тоже бы не понравилось тыканье.
Сандлер: Они к нему обращаются как угодно, как правило, на ты, а они хотят, чтобы к ним чат-бот обращался на вы. И мы переобучили нашего чат-бота, чтобы он обращался ко всем на вы, и все, этот вопрос был снят. Но это вопрос бизнеса, это мы следим, мы стараемся сделать нашему клиенту лучше и мы помогаем ему, и поэтому мы взяли и обучили, чтобы чат-бот обращался так, как клиенту больше нравится.
Пивоваров: Грань между бизнесом и обществом вот в этих новых технологиях и в новых применениях как бы начинает быть очень зыбкой. Бизнес подходит к таким уже как бы интимным, что ли, сторонам жизни человека.
Сандлер: Давай заменим слово «бизнес» словом «социальная система», потому что бизнес ― это некое объединение людей, которые что-то вместе делают. Это некий социум, который работает по каким-то совместным правилам.
Пивоваров: Да.
Сандлер: Это система. Значит, это социальная система. Если мы поднимемся на уровень абстракции, от бизнеса к понятию социальной системы, мы вдруг поймем, что мы вообще-то уже живем очень давно в условиях, когда какие-то социальные системы очень сильно влияют на нашу жизнь.
Сейчас ты, как мыслитель, пришел к тому, что вот этот IT-бизнес, построенный на базе искусственного интеллекта, пришел теперь тоже в эту точку и старается сильно влиять на нашу жизнь. И поскольку здесь новые технологии, которые позволяют очень хорошо понимать конечного клиента, у него получается-таки влиять на эту жизнь.
Но мы вообще-то давно живем в этой ситуации. И если мы говорим о том, что давай оградим индивидуума от влияния социальных систем, то нужно заходить совсем с другой стороны, а не с обсуждения этики использования искусственного интеллекта, а обсуждения совершенно другого уровня этики.
Пивоваров: Я точно не из тех людей, которые скажут: «Нет, нет, давайте остановим», потому что как представишь себе, как это может быть. Я себе представляю виртуального ассистента, который просыпается со мной утром, знает, что у меня была трудная неделя, что я из командировки, заводит мне какую-нибудь медленную музыку.
Сандлер: Помогающую тебе заснуть дальше.
Пивоваров: Нет-нет.
Сандлер: А через полчаса у тебя встреча в офисе.
Пивоваров: Правильную, правильную музычку. Правильную музычку, он знает, что у меня встреча в офисе через полчаса. У него мой календарь, он понимает это. И, может быть, он мне… Не знаю, кофе включит и скажет: «Игорь, давай, у тебя через полчаса встреча!».
Я думаю, что если в принципе мы создадим такого ассистента, который будет таким твоим личным помощником, в меру эмоциональным и в меру как бы знающим, ведущим тебя, помогающим, то это будет абсолютно крутая система. Важно только не перейти здесь какую-то грань.
Сандлер: Мы, технологические компании, строящие системы на основе искусственного интеллекта, идем именно в эту сторону. И мы в первую очередь заинтересованы в благополучии нашего клиента, а не в чем-то другом.
Пивоваров: Так хочется сказать «Аминь!», но я все-таки буду на позиции критика и буду внимательно, да, смотреть, чтобы мы не пошли, не дай бог, не в ту сторону. Уж слишком большие ставки и большие силы брошены.