Тот ещё Шелли (lexa) wrote,
Тот ещё Шелли
lexa

Categories:

deadly secure #13


Что-то давненько я не брал в руки шашечку. Пора сделать очередной выпуск новостей адской безопасности. Сегодняшняя тема - как косячит искусственный интеллект, о котором так много кричали пиарщики, замаскированные под учёных и журналистов.

"Девочку с камерой видел? Прикинь, чего придумала: модельное агентство без моделей. Главный инструмент – софтина для распознавания лиц. Она просто находит в соцсетях похожих людей по фоткам, на заказ. Может подогнать тебе копию любой знаменитости. Мы с ней на конфе пару минут всего трепались. Я в шутку сказал, мол, нужно ролик сделать для одного банка, хорошо бы туда Брюса Уиллиса... И вот гляди, она его прям живого привела. Мужик грузчиком работает. Можешь себе представить, сколько бы стоила съемка с реальным Брюсом? А тут буквально копейки" ("Верёвка")

(1) Реальность, как всегда, оказалась шизовее моих прогнозов: полиция Нью-Йорка ловит преступников с помощью фоток знаменитостей. Типа, свидетель говорит: грабитель был похож на Вуди Харельсона из "Прирождённых убийц". Полиция засылает в распознавалку лицо актёра - и находит похожих людей, которых можно назначить преступниками. Профит!

(2) В Сан-Франциско запретили распознавание лиц в полиции и госструктурах. Публика мучается вопросом: а какие же косяки допускала полиция, если им запретили умную машинку? Вот и стали вылезать такие интересные истории, как с Вуди Харельсоном.

Но я думаю, данный запрет - более тонкая многоходовка. Смотрите: студент подал в суд на компанию Apple за то, что его назвали преступником на основе системы распознавания лиц (а он вообще в другом городе был в это время). Конечно же, государственные структуры не хотят постоянно судиться с гражданами за такие косяки. Поэтому власти Сан-Франциско переложили весь гемор на частный сектор. Полиция по-прежнему может использовать результаты распознавания, полученные от частных компаний (как стороннюю экспертизу, дополнительные свидетельства и др). Но в случае косяка под суд пойдёт именно частная компания, а не госструктура. И никто не будет кричать про "полицейское государство". Ловко, да?

(3) Израильская полиция арестовала и несколько часов допрашивала палестинца, потому что автоматический переводчик Фейсбука ошибся: фразу "с добрым утром" машинка перевела как "уничтожай их". Ну, это вам не Америка, конечно. Судиться палестинец не станет. Хорошо хоть не расстреляли сразу, и на том спасибо.

Кстати, все уже в курсе, что именно Израиль первым в мире ответил ракетным ударом на попытку кибер-атаки? Пора уже ввести такой научный термин, как "еврейская справедливость". Просто чтобы не говорить длинные фразы типа "превентивная ядерная бомбардировка, вызванная религиозной истерикой на основе ошибки автоматического переводчика".

(4) Помните, в прошлом выпуске deadly secure я рассказывал про сервис "умных замков", который обещал работать на основе распознавания лиц - а на самом деле распознаванием занималась армия украинских гастарбайтеров? В целом это конечно лучше, чем полностью автоматизированная "еврейская справедливость". Однако гражданам не нравится надзор. И теперь вот такая движуха в моде: требовать через суд металлические ключи взамен умных ключей..

Тем временем оказалось, что прослушкой под видом искусственного интеллекта занимаются все кому не лень. Началось с разоблачения Amazon Alexa, потом добавились Google, Samsung, Microsoft. Все они вас слушают с помощью специальной армии прослушивателей-людей.

(5) Умный автомобиль больше часа не выпускал пассажиров, потому что обновлял ПО. Здесь самое время рассказать, что в этом году «Яндекс» собирается выпустить на дороги сотню беспилотных машин. Крутизна, инновации! А всё потому, что в России юридические заморочки не мешают прогрессу. Вон глядите, в прошлой новости западные люди так переживают, что Alexа их прослушивает - могут даже засудить Amazon. А спроси у кого в России: прослушивает ли вас "Алиса", куда она отправляет записи? Да ну нафиг, никому не интересно.

Точно так же и с беспилотниками будет. На Западе публика как-то парится по поводу того, что беспилотная Tesla сбивает людей. Они там даже проводят специальные исследования - кого лучше сбить, старушку или спортсмена? А у нас вместо этих заморочек - реальный прогресс беспилотности. Потому что Россия - свободная страна. Для роботов, я имею в виду.

(6) Сходил вчера на конференцию по безопасности PHDays, чтобы наконец приобщить к теме своего младшего - Лёву. Вроде ему там понравилось: в этом году была большая детская секция с мастер-классами от Coddy School.

А сам я в это время послушал доклад компании Microsoft про машинное обучение. Они там рассказывали, что выкладывают все свои ML-модели в свободный доступ. Ну я и спросил докладчика - а ничего, что общедоступные ML-модели гораздо легче взламывать? В ответе услышал, что большинство хакеров - школота, а для взлома машинного обучения надо быть очень продвинутым. Отличный ответ для хакерской конференции, где в соседних аудиториях идут доклады про взлом искусственного интеллекта.

Кстати, это вообще тема года на конфах по безопасности. Для красоты оставлю тут ссылочку на взлом распознавалки с помощью цветного квадратика (перестаёт распознавать человека вообще). Предприимчивые дизайнеры одежды уже могут выпускать платьица с таким паттерном. "Я полагаю, что всё это следует шить", как пел Окуджава Никитин в те времена, которые назывались AI Winter.

person-detector-hacked

(7) Ну и наконец, немного персонального вклада в борьбу с роботами:

Моя лекция "Конец искусственного интеллекта"
состоится в следующий четверг 30 мая в 19:00
Место: РАНХиГС  (метро "Парк Культуры", Пречистенская набережная 11, стр. 1.)
Чтобы попасть на лекцию, нужно зарегистрироваться по ссылке (внизу страницы).

Прошлые выпуски deadly secure: 12 | 11 | 10 | 9 | 8 | 7 | 6 | 5 | 4 | 3 | 2 | первый.
Tags: нанополитика, футурология, хайтек
Subscribe

  • пояснительная записка

    Решил я тут посмотреть, а что за текст начитал Глуховский в "Тотальном диктанте". Посмотрел. Нихрена не понял. Там по сюжету тётка рассказывает про…

  • сказочный баянист

    Первую книжку с политкорректными пародиями на классические сказки я встретил в Штатах в 1994 году. Начиналась она с Красной Шапочки, где и Волк был…

  • Супермен и Люся

    Забавный пример того, как сделать мировой пиар с помощью "ценителей поэзии". 4 марта какая-то жёлтая британская газета пишет, что в США найдено…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 20 comments

  • пояснительная записка

    Решил я тут посмотреть, а что за текст начитал Глуховский в "Тотальном диктанте". Посмотрел. Нихрена не понял. Там по сюжету тётка рассказывает про…

  • сказочный баянист

    Первую книжку с политкорректными пародиями на классические сказки я встретил в Штатах в 1994 году. Начиналась она с Красной Шапочки, где и Волк был…

  • Супермен и Люся

    Забавный пример того, как сделать мировой пиар с помощью "ценителей поэзии". 4 марта какая-то жёлтая британская газета пишет, что в США найдено…