Как отличить бота от человека
С середины мая 2023 года Роскомнадзор планирует запустить ферму ботов, которые будут проникать в открытые и закрытые сообщества россиян, беларусов и украинцев. Их основные задачи — передавать информацию в Роскомнадзор и создавать группы влияния, которые транслируют определенные мысли и идеи.
Боты будут выглядить и общаться как люди. У каждого из них будет свой уникальный профиль, они будут способны наполнять его контентом, оставлять комментарии и лайки, общаться в личных сообщениях. Подробнее об этом смотрите на сайте КиберПартизан. А в этой статье мы дадим рекомендации, как можно отличить в общении бота от человека.
Как отличить бота от человека по общению
- Последние новостные события. Боты обычно не в курсе последних новостей, даже если о них говорят все вокруг. Попробуйте обсудить с собеседником свежие события и посмотрите, как он себя поведет.
- Орфографические ошибки. Боты могут не распознавать слова, если те написаны с нетипичными ошибками, нарушенным порядком символов или только согласными буквами. Человек обычно без труда понимает слово, если первая и последняя буква в нем поставлены правильно, а остальные поменяли местами (порупобйте так прчаитоть и пойемте) — боты так не могут.
- Чувство юмора и сарказма. Обычно у ботов очень примитивное чувство юмора. Шутку с особым контекстом, сарказм или иронию они не распознают, даже если это очевидно. Например, ваша предложение «пойти прыгать с моста, раз все так делают» бот воспримет совершенно серьезно.
- Культурный контекст. Боты не владеют специфическими шутками, историями, культурным наследием того или иного народа, за который себя выдают. Ни один бот не ответит, какая сгущенка лучше и почему ябатькам нужна собачка.
- Язык. Боты пишут только на заданном языке и обычно не смешивают слова из нескольких языков. Тарасянку боты не знают. ��
- Сокращенные слова и предложения. Ботам сложно распознавать смысл по сокращениям. Если вы будете писать с сокращениями и короткими обезличенными предложениями, бот запутается в контексте.
- Прямолинейность и навязчивость. В нормальном человеческом разговоре темы перетекают и изменяются плавно. Если вы заметите, что собеседник упрямо и с почти однаковыми формулировками возвращается к одной теме, вне зависимости от того, что вы говорите, скорее всего, перед вами бот.
- Расплывчатые ответы. Боты дают обобщенные и бессмысленные ответы, если не понимают, о чем речь. Могут почти полностью повторять вашу же фразу, только в вопросительной форме, или писать общие реплики, которые ничего не добавляют к разговору.
- Трудности с нелогичным и непоследовательным. Попробуйте в середине сообщения резко сменить тему. Например, спросить собеседника о семье или рассказать, что вы в депрессии. А потом снова продолжить тему. Бот проигнорирует или будет упрямо писать на ваши проверочные вопросы нечто в стиле: «Я не понимаю». Особенные сложности вызывает сфера чувств и эмоций.
Чаще всего ботов также можно распознать на интуитивном уровне. Например, по однотипному конструированию предложений, часто повторяющимся фразам. В любом случае всегда будьте начеку, и в сообществах не давайте никакой личной информации, которая может вас деанонимизировать и скомпрометировать.
Как отличить бота от человека по профилю в соцсетях
- Фото аккаунта. На фотографиях в профиле бота обычно нет других людей. Только фото одного человека на разных фонах. И бота не отмечают на фотографиях другие люди.
- Профиль только в одной соцсети. Аккаунты ботов создаются под определенные соцсети. Если вы начнете искать другие страницы в Интернете того же пользователя, то ничего не найдете.
- Неуемная активность. Боты постят один и тот же заданный контент в разных сообществах. Попробуйте отследить активность аккаунта в соцсети, которой он находится. Если одну и ту же информацию с него размещают в разных группах, скорее всего, перед вами бот.
- Одинаковый контент. Боты обычно публикуют и пишут только на заданные темы.
- Нет собственного контента. Обычно боты не создают уникальный контент. Их профиль почти полностью состоит из репостов.
- Несопоставимые дата регистрации и количество контента. Обычно в новой соцсети человек по-началу публикуется мало, интерес возрастает постепенно. Но боты, как правило, публикуют и комментируют с примерно одинаковой активностью.
Подведем итог
Поведение ботов отличается от человеческого. Они не считывают и не выражают эмоции, не различают иронию или сарказм, не владеют культурным контекстом.
Даже если вы не можете однозначно определить, с кем общаетесь — ботом или человеком, в любом случае нужно взять на вооружение простой подход:
- никогда не вести диалоги личного характера с незнакомыми людьми;
- если есть хоть малейшее подозрение в достоверности аккаунта в соцсети и месенджере, обходите его стороной.
Помните! Ваша информационная безопасность находится только в ваших руках.
Как и зачем отличать ботов от людей. Отвечают теоретик медиа, админ паблика и гострайтер
На публикации Юга.ру в соцсетях регулярно отвечают залпами однообразных комментариев. Поскольку они транслируют одну (обычно провластную) позицию, их легко заподозрить в обслуживании чьих-то интересов. Мы обсудили это с теоретиком медиа, гострайтером фальшивых аккаунтов и админом городской сети пабликов.
С середины 2010-х в русскоязычном интернете регулярно публикуют и активно читают статьи о том, как отличать ботов от людей в соцсетях. Это и поверхностные советы по SMM для любителей, и обзоры с конкретными примерами. Или опыт программиста, который решил написать бот-фильтр.
Зачастую все сводится к здравому смыслу и интуиции — профиль собеседника должен выглядеть правдоподобно: реалистичные аватарки с лицом, активность друзей, живость содержания и ритма постов. Его общение не должно состоять из шаблонных фраз, написанных грамматически идеально, абстрактно и без личных деталей.
Но правдоподобные и уникальные изображения можно создавать с помощью deep fake, а тексты поручить живым гострайтерам. В потоке генерируемых таким образом аккаунтов есть свои звезды — цифровые модели с разработанными характерами набирают от нескольких сот тысяч до миллионов подписчиков с 2016 года. Они рекламируют известные бренды и даже жалуются на домогательства таксистов, что, впрочем, не находит сочувствия у аудитории.
В РФ очередной виток интереса к политическим ботам случился в ноябре, когда люди выступили против принуждения к вакцинации с помощью QR-кодов. Причем если раньше ботами называли провластные силы, то здесь бот-атакой стали объяснять тысячи гневных комментов в соцсетях у чиновников, например у Володина.
Об этом зигзаге и о ботах вообще редактор Юга.ру Александр Гончаренко поговорил с доцентом департамента медиа Высшей школы экономики Полиной Колозариди, соосновавшей «Клуб любителей интернета и общества».
Почему люди все чаще называют друг друга ботами?
Полина Колозариди
— Бота легко перепутать с троллем — человеком, который ведет себя неадекватно социальной ситуации. Но когда пользовательницу преследуют десятки однообразных комментариев, едва ли она будет разбираться — бот это или тролль. В любом случае по однообразию комментариев или фраз можно составить суждение о том, что имеешь дело с пропагандой или рекламой.
В нынешних реалиях РФ заказчиком бот-атак может быть кто-то кроме властей?
— Конечно, бот-атаки — дело не только государств. Соцсети полны ботов, которые рекламируют все что угодно — от матрасов до благотворительности. Правда, это не называют атаками, да и к рекламным ботам многие уже привыкли.
Как боты формируют общественное мнение? Давайте проследим цепочку, по которой сообщение бота превращается из продукта медиа- и политтехнологов в личный опыт в форме «я где-то слышал, что. »
— Бот — это программа. Они делают нечто похожее на то, что делают люди: отвечают на вопросы, присылают письма, пишут комментарии и т.д. Беспокойство о ботах похоже на страх роботов — а в какой момент мы с ними сливаемся, перестаем быть людьми? Или они оказываются людьми? Короче говоря, это беспокойство о статусе человека.
Строго говоря, в работе бота довольно многое заложено человеком. Люди помещают в ботов фразы, которые нужно сказать, или составляют расписание рассылок. В результате перед глазами получателя рассылки или автоматического комментария оказывается автор-нечеловек. Но определить это наверняка сложно. Ведь действия и фразы ботов делают их похожими на людей.
Нужно ли вообще развивать навык различения бота и человека? Я не уверена. Во‑первых, за ботами всегда есть люди. Во-вторых, навыки создателей ботов быстро совершенствуются, и пока они опережают навыки распознавателей ботов. Важнее подумать о том, что именно значит для нас статус собеседника.
Например, в ситуации, где боты пишут множество комментариев, они ведь не придумывают эти слова. И например, если мы видим много однообразных комментариев, то можем подозревать, что их написали не люди. Но важнее подумать о том, почему и зачем кто-то запустил эту программу. И не обязательно со злым умыслом — это может быть реклама вполне полезных вещей и услуг.
В каких темах боты будут успешны с большей вероятностью? Или им все равно — важна грамотная настройка алгоритмов и выбор горячей полемики?
— Разницы нет, и не обязательно, чтобы была именно полемика. Боты могут просто рассказывать о чем-то, отвечать на вопросы.
Что было аналогом интернет-ботов в доцифровую эпоху? Фабрикуемые редакциями «письма читателей»?
— Боты делают то, что делали люди, и офлайновый аналог ботов — это роботы. Всем известные аналоги говорящих ботов — это объявления в автобусе или метро «Осторожно, двери закрываются, следующая остановка — Южная».
Правда, сейчас мы называем ботами интерактивные программы — они реагируют на то, что пишут им люди. Тут боты скорее продолжают клерков, то есть автоматизируют труд людей, общающихся с людьми. Ведь они тоже общаются по протоколу и нацелены на вполне определенные задачи (например, выдать вам банковскую карту или записать в поликлинику). Здесь боты заменяют людей так же, как станки заменяли рабочих в XIX–XX веках. Конечно, боты оказываются более гибкими, и их используют не только в индустрии или госуправлении.
Под видео Навального о дворце были популярны комменты, которые не скрывали свое сугубо техническое назначение, например: «Комментарий для продвижения в тренды». Те, кто оставлял их всерьез, рассчитывал на то, что активность в комментах повышает охват поста и его выдачу в рекомендациях другим людям (допустим, это сработало — сейчас ролик посмотрело более 120 млн). Как еще интернет заставляет реальных людей вести себя подобно ботам? Почему это происходит?
— Люди и боты не черное и белое. Все мы делаем рутинные операции и говорим ритуальные фразы. Чистим зубы, автоматически здороваемся и прощаемся. Совершенно закономерно, что в онлайн-практиках тоже есть такие ритуальные фразы, которые похожи на роботические.
Читайте также:
У меня мало денег и нет навыков программиста, но я хочу атаковать ботами чей-то пост. Что для этого делать?
— Задуматься над тем, зачем это делать.
Тогда вернемся на шаг назад — люди хотят отличать ботов от людей в сети. Может, это симптом куда большей проблемы — не исходит ли желание верифицировать интернет-общение из нехватки живых бесед?
— Нет, дело не в живых беседах: улицы городов полны людей, с которыми можно говорить, в интернете их тоже хватает. Как я сказала выше, боты заставляют беспокоиться о том, где граница машинного в самом человеке и окружающих. Нередко так говорят и друг о друге: «она как будто зомбированная пропагандой» или «рекламы насмотрелся». Мы не всегда различаем, где в наших словах влияние нашего образования, телевизора или соседки Агаты. Вроде как боты — это чистая технология, но говорят-то они человеческим голосом. Эта проблема различения людей и нелюдей очень старая, но сейчас новый виток, так как изменилась технологическая оснастка. Постепенно различия станут понятнее, и тревога переключится на новые объекты.
О том, как строится работа проплаченных комментаторов, редактору Юга.ру анонимно рассказала сотрудница американской компании.
— Я работала копирайтером в компании, которая собирала команды комментаторов для американского интернета. Заказы различались по объему и направлениям. Был небольшой заказ на комменты в пользу медицинской операции, вызвавшей разногласия в Америке. Еще были небольшие заказы, связанные с фармацевтикой и аграрными удобрениями.
Потом пришла большая криптовалютная компания с долгим проектом во всех соцсетях. Поскольку к этой сфере более пристальное внимание и пользователям легче вычислить фальшь, все это требовало тщательной стратегии и согласованных действий, как в Warcraft, — кто, что и где должен сказать. Мы тоже запускали противоречия, мол, а вон тот комментарий куплен.
Каждый день нам закидывали дайджест со ссылками на посты и указаниями, что и как мы должны там обсуждать. Над этим проектом нас работало 15 человек, в день каждый постил порядка 50 комментов (в политических кампаниях, интересующих тебя, вероятно, работают команды крупнее вдвое или втрое). У нас основной упор делали на твиттер, так как это максимально правдоподобное место для того, чтобы люди легко постили там свои мнения. Но приходилось комментить и вообще невнятные статьи на сайтах просто с новостным конструктором.
Много времени занимало создание правдоподобных аккаунтов. Нам скидывали zip-архивы с текстовыми файлами, в каждом — огромный список логинов-паролей. Срабатывают они 50/50. Дальше думаешь: этот чувак уже не подросток, такой basic парень, ему крипта интересна, он там что-то услышал об этом. И подписываешься на тачки, Эмрату [модель Эмили Ратаковски — прим. ред.] и еще пару моделей или актеров, делаешь левые репосты и потом невзначай вкидываешь что-то одобрительное о компании-заказчике.
Сейчас большинство комментариев на продающих сайтах кажутся мне подозрительными
гострайтер
Комментарии надо продумывать, с одной стороны, от разных людей, чтобы они обладали индивидуальными стилями и интонациями. С другой — отличаться должны и отдельные комментарии: здесь пишешь без пунктуации, там — кричишь капсом а-ля женщина 45 лет «позовите менеджера», а тут — спокойный нейтральный тон в духе «все равно, что вы тут обсуждаете, я о другом спросить пришел».
Иногда желание разнообразить интонации может сыграть злую шутку — и ты оставляешь коммент стилистически броский, но неуместный именно в этом треде или флейминге. Например, заходишь в фан-группу Ланы Дель Рей со смайликами из 2007-го, «приффки» и «го общацца». Или школьник, едва научившийся печатать, вряд ли пойдет в дискуссию о QR-кодах. В обоих случаях реакция будет: «А что ты здесь забыл?»
Все свои комменты ты скринишь. Их отсматривают менеджеры и указывают, где ты поставила запятую как-то не так, как ее поставил бы американец: «Палевно, удали».
Сейчас большинство комментариев на продающих сайтах кажутся мне, мягко говоря, подозрительными. Как минимум потому, что среднестатистический человек не будет тратить столько усилий, чтобы восторгаться шампунем, а потом обзывать того, кому он не понравился.
Также Юга.ру предложили поделиться своим опытом администраторов «Туподара» — городской сети пабликов. Они рассказали о многолетних наблюдениях за ботами в своих соцсетях.
«Туподар»
— История ботоводства на Кубани насчитывает более десяти лет. В нулевые это были плохо организованные набеги на какие-нибудь комментарии, где нужно было кого-нибудь поддержать. Но названия «бот» не было, предпочитали традиционное «тролли». Сейчас эти жанры четко разделены: бот — это настоящий (ро)бот, программа; тролли — это живые люди, за деньги или интерес убивающие обсуждения и нападающие на комментаторов. Вторых все меньше, так как они гораздо дороже.
Обычно это были рейды из какого-нибудь учреждения на вполне конкретный пост, новость или топик. Заканчивались они сразу после отчета руководству об участии. В 2007–2009 годах активные сливы пасквилей и оскорблений устраивались на региональных сайтах и, разумеется, в центре Кубнета того времени — форуме на Кубань.ру. Мне удавалось лично установить конкретных участников отдельных событий, работников СМИ. Кому-то явно стыдно за то, что они делали. Своими поступками сейчас некоторые будто пытаются искупить вину.
Коммерческие ботофермы при этом почти не пользуются спросом нигде в мире: их применение — удел школьников, пытающихся впечатлить друг друга накрученными подписками или обмануть первых клиентов в SMM.
Ближе к 2010 году в Москве догадались, что интернет влияет на умы, и появились первые всероссийские сети троллей. Одну из них вскрыл журналист Евгений Титов из «Новой газеты» — он опубликовал слитую рабочую переписку троллей и нашел конкретных людей и следы их деятельности в кубанском интернете. Почти все они оказались сотрудниками госучреждений. Эту сеть быстро свернули, и началась история всемирно знаменитой фабрики профессиональных троллей из Ольгино.
Ботов, вроде тех, например, что накручивали подписки в твиттере бывшего губернатора Ткачева, можно вообще в расчет не брать: это просто одноразовый мусор и ошибка. [В 2013 году программист Антон Анисимов проанализировал бот-активности в твиттерах российских чиновников, Ткачев попал в топ-5 с наименьшим процентом живых подписчиков — 35,84% — прим. ред].
Читайте также:
И тогда, и сейчас отличить их от обычных людей довольно просто — участвовать в обсуждениях они по-прежнему не умеют. Не попадают в контекст, не имеют аргументов и конкретики, используют однотипную риторику и/или ключевые фразы. Живые тролли, понятно, просто выбирают жертвой лидеров мнений и остервенело вцепляются в них, лишь изредка и ненадолго пытаясь имитировать интеллигенцию. Получается редко.
Познакомиться с троллем сегодня сложно: почти все понимают, что это постыдное занятие, и признаваться в таком не принято. Плюс работодатели заключают соглашения о неразглашении.
Сейчас «Туподар» испытывает на себе поползновения двух (возможно, трех) ботоферм. Региональных среди них, похоже, не осталось — это дорогое занятие и наверняка на уровне Федерации за это платят лучше. Изредка по хештегам и ключевым словам залетают и ольгинские, но никакой системы в их действиях нет.
Ежедневно в постах нашего телеграм-канала по ключевым словам боты (это точно не люди) оставляют три-пять комментариев, оправдывающих любые результаты властей: от плохого транспорта до пыток в учреждениях ФСИН. Боты постоянно ошибаются с тематикой и оставляют комментарии, никак не связанные с темой, никогда не привязываются к месту, не отвечают на вопросы и пишут что-то вроде «Вот у нас в городе все хорошо». У них нет ников и всегда полные человеческие имена — видимо, так их пытались сделать более настоящими.
Их комментарии всегда явно заготовлены заранее, они размыты и всегда одинаковы по смыслу: власти все делают правильно, давайте сомневаться в словах критикующих и критиковать их. Если заготовленных комментариев нет или скрипт не распознал тематику, то боты ничего не пишут.
Пока непонятно, как бороться с ботами, которые участвуют в онлайн-голосованиях и публичных слушаниях от органов власти
администраторы «Туподара»
У нас две версии: либо кто-то тренирует на наших публикациях ботоферму (возможно, на базе какой-то довольно глупой нейросети), чтобы потом продать этот продукт. Либо мы просто попали в какой-то контракт по наводнению любых обсуждений в рунете любыми комментариями, чтобы порождать в массах сомнение. Возможно, кто-то думает, что таким образом может управлять общественным мнением или причинять вред оппозиции. По числу введенных в последние годы инструментов цензуры и ограничений свободы слова ясно, что это давно не работает. В пользу второй версии говорит тот факт, что мы видели таких же ботов в других узкотематических и популярных телеграм-каналах, но не связанных с Кубанью.
Самое важное: боты из комментариев не несут практически никакой опасности, кроме потери трафика и траты времени на общение с дурной программой.
Намного опаснее боты, которые участвуют в интернет-опросах органов власти, онлайн-голосованиях, оставляют отзывы к публичным слушаниям и проектам нормативно-правовых актов. То есть фальсифицируют «широкий общественный интерес» и «запрос снизу». Имитируя общественность, они до зависти организованно и невероятно легко влияют на принятие решений, формируют правовые рамки и обосновывают вполне конкретные ограничения для живых людей. Стимулируют решения о строительстве и перенаправление денег на конкретные проекты, отказ от невыгодных кому-то решений и т.п.
Один из ярких примеров — как при голосовании на сайте мэрии за выбор места для строительства парка «победил» пустырь на Садовой (полагаем, благодаря многочисленным студентам соседнего университета и мудрому руководству ими). Почти у всех знакомые просили «просто зайти и проголосовать через госуслуги» за что-то с виду нелепое или неважное, а на деле — прямо влияющее на политическую жизнь в стране и на траты вполне конкретных, в том числе государственных, денег. Примеры похуже можно поискать в отзывах на публичных онлайн-слушаниях, например, по проектам федеральных законов или экологически вредных производств. К сожалению, практически всегда мы видим их как коррупционно емкие.
Как бороться с этими тихими, но особо вредными акторами, пока непонятно. Возможно, они будут определять нашу жизнь десятилетиями. Это большой вызов для страны и интернета, который отнимает анонимность у людей, но дарует ее ботам.
Названы способы распознать бота при общении в сети
Россияне все чаще сталкиваются с ботами в мессенджерах. В разговоре с «Лентой. ру» заведующий кафедрой «Интеллектуальные системы информационной безопасности» Института кибербезопасности и цифровых технологий РТУ МИРЭА Шамиль Магомедов разъяснил, как распознать собеседника, который не является человеком.
«Искусственный интеллект проникает во все сферы нашей жизни. Каждый человек так или иначе сталкивается с роботами и чат-ботами, порой даже не подозревая, что общается с виртуальным собеседником», — отметил Магомедов.
К сожалению, высокие технологии служат не только благим целям, напомнил специалист. Все чаще их используют мошенники и киберпреступники. Однако «общающиеся» боты все еще не достигли вершин своего развития, и распознать их при должном внимании можно, подчеркнул Магомедов.
Можно постараться вычислить бота при помощи юмора и даже сарказма. У алгоритмов эти «особенности характера» чаще всего развиты очень слабо: если на элементарную шутку собеседник отвечает вам со всей обстоятельностью, скорее всего это ИИ
Шамиль Магомедов Эксперт по кибербезопасности
Также для проверки специалист посоветовал отправить потенциальному боту вместо сообщения знак препинания или число. «Как правило, боты не удивляются таким сообщениям и продолжают беседу, как если бы получили содержательный ответ», — поделился завкафедрой профильного института.
Также хороший способ проверки орфографические ошибки, счел он. «Напишите несколько фраз с опечатками или намеренно переставленными буквами: бот не сможет ответить вам внятно, тогда как человек легко распознает смысл фразы», — посоветовал эксперт.
Еще один признак бота — скорость ответа, указал Магомедов. Чат-боты, и голосовые роботы реагируют на фразы гораздо быстрее, чем обычный человек, объяснил специалист.
«Можно также посреди разговора задать неожиданный вопрос, никак не связанный с обсуждаемой темой. Скорее всего, ИИ мгновенно переключится на новую тему, не удивившись и не посмеявшись — в отличие от реального человека — над вашей переменчивостью», — указал IT-эксперт.
Голосовым ботам также свойственна шаблонность фраз, которая ярко проявляется в нестандартных ситуациях, таких как затянувшаяся пауза в диалоге, добавил Магомедов.
В целом, опасаться ботов не стоит, заключил специалист. Большинство из них действительно делают повседневную жизнь проще, могут решить рутинные задачи. «Но в общении с искусственным интеллектом важно соблюдать элементарные правила цифровой гигиены: не сообщать личную информацию, не делиться данными банковских карт и так далее», — подчеркнул Магомедов.
Ранее сообщалось, что ученые из Университета Торонто оптимизировали нейрочипы для борьбы с нарушениями мозга с помощью искусственного интеллекта. Теперь имплантаты могут быть гораздо меньшего размера, а также потреблять меньше энергии, максимизировав клиническую эффективность.
Борьба с ботами: как не стать жертвой вредоносных программ
Чат-боты стали неотъемлемой частью нашей жизни, однако не все они созданы для того, чтобы приносить пользу. В этой статье мы расскажем, как распознать бота и защитить себя от потенциально вредоносного общения с ним.
Команда is*hosting 25 июл 2023 4 мин
- Как распознать бота?
- Как защитить себя от ботов?
- Что делать, если вы подозреваете, что общаетесь с ботом?
- Как сообщить о боте на платформе или сайте?
Чат-боты получили широкое распространение в различных областях, включая социальные сети, обслуживание клиентов и приложения для знакомств. Ведущие технологические гиганты, такие как Microsoft, Twitter, Facebook, внедряют чат-ботов в свою повседневную деятельность. В большинстве случаев, цель чат-ботов заключается в оказании эффективной помощи, при этом они не стремятся обмануть пользователя. Тем не менее, известны случаи, когда, например, бот Facebook разработал собственный язык или бот Twitter проявил агрессию. Существуют и другие сценарии, когда люди намеренно создают ботов с целью совершения противоправных действий. К таким ботам относятся мошеннические боты, спам-боты, боты, распространяющие вредоносное ПО и т.д. При помощи ботов злоумышленники могут также нанести существенный вред сайтам и серверам. Как защититься от DDoS-атак?
В этой статье мы расскажем, какие признаки указывают на то, что вы общаетесь с ботом, и как можно защитить себя от потенциально вредоносного взаимодействия с ним.
Как распознать бота?
Достижения в области машинного обучения делают ботов все более похожими на людей: системы способны воспроизводить связные аргументы или имитировать человеческую беседу. Такие разработки, как Project Debator от IBM или Duplex от Google указывают на то, что в скором времени боты могут максимально приблизиться к модели взаимодействия, трудно отличимую от человеческой. Как устроены чат-боты?
К счастью, ИИ еще не достиг совершенства, и имеется ряд признаков, по которым нежелательные боты все еще “выдают” себя:
Отсутствие личной информации в профиле
Если речь идет не об общении в чате поддержки, а, например, в социальной сети, самым верным признаком, указывающим на то, что вы общаетесь с ботом, будет незаполненный профиль пользователя. Как правило, у ботов отсутствует фотография профиля и биография. Более сложные боты могут использовать фотографию, украденную из интернета, или автоматически созданное имя аккаунта.
Также следует помнить об одном общем правиле — боты привлекают других ботов. Если вы посмотрите, на кого подписан бот, и кто подписан на него в социальной сети, почти наверняка это будут другие боты. Именно это и делает ботов такими мощными — если какая-то фраза или хэштег послужит триггером для бота, то за ним отреагирует целая армия ботов, создавая ощущение, что толпа настроена против вас.
Повторяющиеся сообщения и расплывчатые ответы
Боты отличаются крайним упорством и узкой направленностью. В отличие от общения между реальными людьми, когда темы для разговора могут моментально меняться, общение с ботом будет циклично возвращаться к одной и той же теме, поскольку они, как правило, создаются для конкретных целей. Если вы замечаете, что ваш собеседник повторяет одну и ту же рекомендацию или предлагает одно и то же решение, несмотря на вашу реакцию, скорее всего вы имеете дело с ботом. Еще более явным признаком будет являться тот факт, что формулировка сообщения каждый раз остается одной и той же.
Если бот вас не понимает, то скорее всего он будет предлагать расплывчатые, бессмысленные ответы, часто повторяя то, что вы только что сказали. Это старый трюк, который был впервые использован чат-ботом ELIZA в 1960-х годах, чтобы создать иллюзию внимания. Например, если вы скажете: “Я грустный”, бот задаст вопрос: “Как долго вы чувствуете себя грустным?” Это простая алгоритмическая конструкция, но она создает иллюзию разумности. Если собеседник, с которым вы взаимодействуете, постоянно запрашивает уточнения, вероятно, это связано с использованием искусственного интеллекта для обхода сложноформулируемых предложений.
Неспособность воспринимать тонкости языка и юмор
Неспособность воспринимать тонкости языка и юмор является еще одной характеристикой, которая может помочь выявить бота. Человека отличает способность понимать и использовать не только языковые правила, но и нюансы, подтекст и контекст в коммуникации. Способность к использованию юмора, игре слов и сарказма является характерной чертой человеческого общения, но представляет большие трудности для искусственного интеллекта.
Если ваши шутки или игра слов остаются безответными или вызывают неправильные реакции, это может быть признаком того, что вы общаетесь с ботом. Боты обычно стремятся к максимальной точности и конкретности в своих ответах и могут пропустить нюансы, которые для людей являются естественными.
Подозрительная скорость ответов и частота отправки сообщений
Еще одним признаком того, что вы взаимодействуете с искусственным интеллектом, является скорость их ответов. Боты обычно способны генерировать ответы гораздо быстрее людей, будь то в чате или по телефону. Если ответы в чатах приходят мгновенно, или если голос по телефону мгновенно предоставляет вам информацию, которую человеку разумно было бы искать, то вы имеетe дело с ботом.
Боты также могут быть запрограммированы для автоматической отправки сообщений или ссылок с коммерческими или спамовыми целями. Если вы получаете много подозрительных ссылок, предложений или сообщений с непрерывной частотой, это может указывать на то, что вы взаимодействуете с ботом.
Попытки получить доступ к личным данным
Вредоносные боты на самом деле не желают просто беседовать. Их цель — заставить вас выполнить действие, которое принесет им пользу. Поэтому, после нескольких предложений, они предложат вам перейти по ссылке, чтобы продолжить общение за пределами платформы. Например, с предлогом показать вам некоторые видео или проверить определенные данные. На этом этапе они могут установить вредоносное ПО или попытаться получить от вас личные данные. Как не стать жертвой криптоджекинга?
Доверенное лицо или поставщик услуг не будет требовать от вас предоставить чувствительную информацию внезапно, особенно пароли, ПИН-коды или финансовые данные. Они обычно следуют установленным протоколам для проверки вашей личности или предоставляют безопасные каналы для обмена такой информацией.
Как защитить себя от ботов?
Общение с ботами может быть достаточно неприятные последствия. Важно не только понимать, как действовать в случае, если вы подозреваете, что общаетесь с ботом, но и сообщать об активности ботов на соответствующей платформе или сайте. Это поможет минимизировать их появление в будущем и обезопасит пользователей.
Что делать, если вы подозреваете, что общаетесь с ботом?
- Обращайте внимание на неестественное поведение: боты часто демонстрируют определенные модели поведения, которые могут помочь вам их распознать. Обратите внимание на общие или повторяющиеся ответы, неестественную скорость набора текста, не относящиеся к делу или бессмысленные ответы, а также неспособность вступить в содержательную беседу.
- Проверяйте информацию в профиле или учетной записи: если вы взаимодействуете на платформе, подразумевающей наличие профиля пользователя, изучите профиль на предмет его заполненности. Как правило, в профилях ботов информация отсутствует или же она является неполной или бессмысленной. Например, обратите внимание на странные имена пользователей, содержащие различные символы, отсутствие или наличие типовой фотографии профиля и т.д.
- Задавайте сложные или зависящие от контекста вопросы: боты обычно с трудом понимают и отвечают на сложные или специфические вопросы. Попробуйте задать вопросы, ответы на которые требуют личного опыта, эмоций или собственного мнения. Если перед вами бот, то его ответы будут расплывчатые или уклончивые.
- Обращайте внимание на грамматику и орфографию: боты могут допускать грамматические ошибки или использовать необычную структуру предложений. Хотя люди тоже могут ошибаться, постоянные ошибки или неестественное использование языка могут быть признаком бота.
- Ищите несоответствия: боты могут иногда ошибаться или противоречить сами себе. Если вы заметили несоответствия в их ответах или информации, это может быть признаком того, что вы имеете дело с ботом.
- Используйте внешние инструменты проверки ботов: некоторые веб-сайты и расширения для браузеров могут помочь вам обнаружить ботов. Эти инструменты анализируют поведение и характеристики пользователя, с которым вы взаимодействуете, и помогают понять, является ли он ботом.
- Не раскрывайте личную или конфиденциальную информацию: чтобы защитить свою конфиденциальность и безопасность, не сообщайте подозреваемому боту никаких личных или конфиденциальных данных. Если вы хотите быть уверенными в вашей конфиденциальности, вы также можете воспользоваться сервисом VPN от is*hosting, который поможет вам защитить ваши данные от нежелательного доступа.
Персональный VPN
Для тех, кто хочет оставаться незамеченным в сети и обезопасить свои данные. Выделенный IP и полная анонимность.
- Не открывайте подозрительные ссылки: боты могут попытаться обманом заставить вас перейти по вредоносным ссылкам. Избегайте переходов по ссылкам из неизвестных или ненадежных источников. Проверяйте URL-адрес или воспользуйтесь поиском в Интернете, чтобы убедиться, что ссылка ил веб-сайт не представляют угрозы.
- Свяжитесь со службой поддержки: если есть возможность, попробуйте связаться с представителем компании через альтернативные каналы, такие как телефонные линии поддержки клиентов или официальные аккаунты в социальных сетях. Они могут проверить подлинность разговора и оказать помощь.
- Завершите разговор: если вы считаете, что взаимодействуете с ботом, лучше прекратить разговор и отключиться.
Как сообщить о боте на платформе или сайте?
- Найдите форму обратной связи: проверьте платформу или веб-сайт на наличие формы, специально разработанной для работы с ботами или подозрительными аккаунтами. Ищите опции типа “Сообщить о спаме” или “Сообщить о боте” в интерфейсе чата или на страницах поддержки платформы.
- Предоставьте доказательства: предоставьте все имеющиеся у вас доказательства, такие как скриншоты разговора, временные метки или любые другие детали, которые могут помочь платформе или сайту в расследовании.
- Следуйте рекомендациям: некоторые платформы могут иметь специальные инструкции или процедуры сообщения о ботах или подозрительных аккаунтах. Обязательно ознакомьтесь с этими правилами и следуйте им.
- Проявите терпение: Сообщение о боте не гарантирует немедленного решения проблемы. Платформам и веб-сайтам, как правило, требуется время для рассмотрения сообщений о ботах и принятия соответствующих мер.
Несмотря на то, что эти рекомендации могут помочь выявить ботов и сообщить о них, они не являются гарантией того, что вы не столкнетесь с ботом. Боты постоянно совершенствуются, и некоторые из них могут очень убедительно имитировать поведение человека. Поэтому очень важно сохранять бдительность и проявлять критическое мышление при любом взаимодействии в сети.