Category: it

Category was added automatically. Read all entries about "it".

коротко о славном

"Сетевое окружение" - сборник рассказов
"Верёвка" - этнографический детектив
"Солнцеворот": хайку на каждый день
"Сядьте на пол" - лучшая книга для родителей (пруф)
"Паутина" и "2048" - киберпанк и пост-киберпанк
"Лишние детали" - сборник рассказов
"Худловары" - роман о том, как мы строили Рунет
Лучшие статьи из Компьютерры и Вебпланеты

Самые стихи - "Девушка в свитере" и "Искусство Терять"
Ещё есть хайку, love stories, magic arts, детские стихи и переводы
Верёвочные фигуры: колыбель для кошки, звёздный атлас, сказки Севера, песня про улитку

Collapse )

PHDays 10: под огнём

Компания Positive Technologies, где я раньше работал, попала под американские санкции. Официальная причина довольно странная - компания много лет проводит ежегодную конференцию по кибербезопасности PHDays, и вот на этой конференции среди нескольких тысяч участников оказались представители ФСБ и ГРУ, которые как будто искали себе новых сотрудников. Кажется, этот повод для санкций просто взят из газетной статьи.

В результате у компании уже заблокировали аккаунты в YouTube с ценными записями докладов и вебинаров прошлых лет, а зарубежные партнеры вынуждены отказываться от сотрудничества. Что в первую очередь бьёт по самим партнёрам, конечно: ведь эксперты PT находили уязвимости в продуктах Microsoft, Intel, Siemens, HP, Apple и других западных вендоров, после чего сразу сообщали об этом самим вендорам, получая от них благодарности. Но теперь "партнёры" не имеют права даже переписываться с PT - то есть узнавать о своих уязвимостях они будут, видимо, только из прессы, когда их уже поломают настоящие хакеры.

Наверное, было бы логично услышать от российских властей симметричный ответ на эти санкции. Тем более что тут не надо выдумывать повод: многие американские ИБ-компании не просто сотрудничают со спецслужбами - они основаны спецслужбами и гордятся этим. Понятно, что бизнеса в России у них особого нет, так что ответные санкции им не особо повредят экономически. Но как минимум, репутацию им можно испортить, чтобы не так громко хвастались тем, как они скрывают американские вирусы из своих отчётов.

Ну а пока власти РФ молчат, "Позитив" продолжает свою конференцию - юбилейный PHDays 10 начнётся 20 мая. А основное хакерское шоу "Противостояние", название которому придумал скромный я в 2017 году, начинается уже сегодня - Standoff365.com. Кстати, на том же сайте обещают трансляцию докладов.

А уж кто пойдёт на конференцию вживую, тех конечно же будут прямо на входе записывать в ГРУ и выдавать печеньки. Так что уже на следующий день эта спецслужба наконец станет самой крупной в мире. Пусть зажрётся клятый хомяк, как говорил товарищ Хрущёв, постукивая своим ботинком по голове товарища Никсона.

deadly secure #15

После моего поста про трудности робоперевода товарищи по палате спрашивают - а правда ли, что выражение "комната грязи" выдало Навального как агента ЦРУ? И тут я понял, что давно не выпускал на волю ту свою субличность, которая считает себя специалистом по безопасности. Поэтому сегодняшний выпуск Deadly Secure посвящен машинному переводу.

(1) Ну во-первых: вычисление агентов по херовому русскому языку - это классика. Послушайте например интервью с хакером из группы REvil - там есть и о том, как они вычисляют агентов западных спецслужб. Правда, не только по языку: "Они сыпятся на проверке по общеполитическим и социальным вопросам стран СНГ".

(2) На первый взгляд кажется, что автоматические переводчики облегчают поддельную атрибуцию хакеров и их инструментов. Но и разоблачение таких подделок тоже облегчается. Вот представьте, в ЦРУ написали вирус, и решили свалить всё на русских. У них есть специальный софт Marble, который автоматом переводит комментарии в коде вируса на русский язык. Но ведь понятно, на кого это действует? Только на тех, кто русским не владеет. А кто владеет, тот сразу видит, что это подозрительно корявый русский.

(3) Для симметрии: российских органистов тоже вычисляют по робопереводам. Причём ловят их - внимание! - даже не на корявости перевода, а на самом факте использования робопереводчика от компании Google. Спасибо Серёже Брину, теперь мы знаем, что он сливает спецслужбам не только почту граждан, но и то, что граждане пытаются переводить:

Collapse )

deadly secure #14

Перечитал я прошлые выпуски Deadly Secure - и подумал, что выставляю сферу информационной безопасности (ИБ) как нечто особенное, где всё не как у людей. Это неправильный стереотип. Сфера ИБ зачастую страдает от тех же болезней, что и нормальные люди. В этом году, например, такой всеобщей болезнью является токсический бабизм (или просто токсобабизм, только не путайте с токсоплазмозом).

Некоторые товарищи по палате сейчас удивятся: да разве такое может быть в сфере ИБ? Ведь там работают практически одни мужики! Увы, современные психические болезни общества мало связаны с физическим составом этого общества: ведь современные устройства позволяют транслировать любую заразу прямо в мозг, минуя любые физические границы. Предсказание одного из вариантов развития бабизма в ИБ вы давно уже прочитали в романе "Верёвка":

"Тогда пиар-отдел нашёл сотрудницу-негритянку. В безопасности она ни бум-бум, зато сидит в лондонском офисе компании, и фамилия у ней арабская. Там весь офис такой: два сейлза-индийца да секретарша. Вот секретаршу и стали раскручивать как спеца. Если где бомбануло – эпидемия, утечка, новый закон о персах – парни Николая сразу пишут умный коммент и кидают негритянке. Она запятые расставит, пару слов добавит о проблемах саксаульных меньшинств, и засылает в агентство. И назавтра этот коммент – в главных британских газетах. Открываешь Guardian, там на полстраницы ругают русских троллей, а рядом негритянка в своей колонке поёт куплеты, которые ей надиктовали из той же Москвы.

И стала эта девушка за год экспертом мирового класса. Чего у ней не спросят – про руткиты, про SS7, про антифишинг с машинным обучением и левой резьбой – всё знает! Газеты в очередь выстроились за её комментариями".


Collapse )

новый словарь айтишника

Прочитавши мой ругательный пост про заимствованные слова, некоторые товарищи по лопате спрашивают: а что же делать коллегам-айтишникам, у которых весь профессиональный язык - заимствованный? Да, есть такая проблема. Когда айтишники пытаются переводить свои термины на русский с помощью автоматических переводчиков из прошлого века, выходят такие грибы, что лучше бы не переводили вообще.

Ну а теперь им ещё хуже станет. Вы наверняка слышали: большая зачистка английского языка дошла до IT-индустрии. Миллионы долларов тратят сейчас западные IT-корпорации, чтобы удалить оскорбительные слова не только из документации, но даже из кодов. А вслед за западными корпорациями эти замены ударят и по всем нормальным людям.

Поэтому я решил помочь отечественным айтишникам. Труженики клавы и дисплея! Не надо ждать, пока с новыми словами к вам придут Microsoft и Google! Начинайте использовать корректные, никого не обижающие термины уже сейчас. Вот вам список тех исправлений, которые необходимо произвести в вашей документации и кодах. Старые оскорбительные слова - слева, а новые правильные термины - справа:

Android => Androgynoid
Apache server => Native server
Blacklist => Afrolist
Male / Female Connector => Gender-Sensitive Connector
Man-In-The-Middle => Transperson
Manual => Handjob
Motherboard => Prideboard
Master Boot Record => Middle-Class Shoe Record
Sanity test => Diversity test
Slave device => Child device
Whitelist => Alaska list
Whitepaper => Post-green paper

PS. В комментариях можно дополнять список, если вы знаете ещё какую-то необходимую замену, которую я забыл.

Белоснежка и семь мифов про AI

В начале ноября на питерском кинофестивале "Мир знаний" устроили научный квартирник по разоблачению мифов об искусственном интеллекте. Жаль, видеозаписей не было, хотя само место - Цифербург на Фонтанке - очень симпатичное для съёмок: это комплекс старинных зданий, превращенный в нечто среднее между кафе, сквотом и совокингом (совокинг - это как совок, только для хипстеров).

Фотка, сделанная на том квартирнике, прекрасно отражает то, что я думаю о "бурном развитии искусственного интеллекта" - поэтому с неё и начнём:

lexa-AI-discussion

Полностью пересказывать содержание дискуссии мне лень. Но одну забавную идею запишу. Я почти всегда забываю озвучить эту идею во время выступлений про AI. Но мне про неё всегда напоминают, задавая вопросы в конце. А само выступление без этой идеи обычно получается довольно пессимистичным. Например, я рассказываю такие мрачные вещи:

(1) Выход машинного обучения из стерильной лаборатории в большой реальный мир почти всегда сопровождается ростом ошибок на два-три порядка. А поскольку самый мощный надзор за гражданами с использованием искусственного интеллекта происходит в либеральных и демократических странах - то именно в этих странах ожидается большинство косяков.

(2) Самостоятельный AI - сказка для домохозяек. На деле, почти во всех случаях системы искусственного интеллекта требуют поддержки в виде целой армии человеческих рабов: асессоры в поиске, слухачи в голосовых помощниках и др. Про это не пишут в рекламе AI-продуктов, потому что следующая логичная мысль - а будет ли галера плыть, если рабы вдруг бросят вёсла?

(3) Работу нейронных сетей почти невозможно интерпретировать: дрессированные мышки не умеют говорить. Это значит, что вы не понимаете, как принято решение и почему возникла ошибка. Поэтому нейросети легко взламывать и обманывать, особенно с учётом того, что их разработчики почти никогда не тестируют свои поделки на "враждебное поведение". Зато они выкладывают коды своих ML-моделей в свободный доступ (даже Microsoft), а для обучения используют публичные датасеты, собранные хрен знает кем (прекрасный кейс - "отрезанные пальцы Тинькова");

(4) Самоходных роботов более ста лет изображали в фантастике, но они не появились среди нас. И на то есть веские причины. По тем же причинам беспилотные автомобили - это не про транспорт. Это скорее проект по сокращению численности населения на основе спортивного отбора. Чаще всего беспилотники будут врезаться в неподвижные объекты - и для этого тоже есть простое техническое объяснение. Так что если вы собираетесь жить в городе с беспилотниками, начинайте тренировки по бегу уже сегодня. (Некоторые попытаются скрыться в метро, но это всё равно что надеть на голову микроволновку. А вы не знали? - в метро реализуется другая техника сокращения населения, под названием "бесплатный WiFi").

(5) Искусственный интеллект, который "скоро превзойдет человеческий" - это рекламная выдумка чокнутого пиарщика из Гугла. Тот же чокнутый дедушка обещал, что в 2020 году (т.е. сейчас) в наших телах поселятся нанороботы, поправляющие наше здоровье (ничего подобного не существует даже в проекте, хотя в США уже потратили $20 миллиардов на "разработки в области нанотехнологий"). Поэтому правильный перевод всей этой сингулярности на русский язык звучит как слоган Незнайки на Луне: "Коротышки, покупайте акции Общества Гигантских Растений!".

(6) Вообще, технологические прорывы остались в прошлом. Удивительно, но это факт. Электричество и радио, автомобиль и самолёт, атомная энергия и космические станции, компьютер и Интернет, пластик и гормональные контрацептивы - ничего такого прорывного не придумано в XXI веке. Это касается и алгоритмов машинного интеллекта: они все из хрущёвских времён. Отчего же возник такой AI-бум сейчас? В основном благодаря количественному росту Интернета, то есть огромных объемов данных. Но время бесконтрольного шпионажа проходит - например, из-за законов типа GDPR. А публичные данные теперь сильно замусорены и фальшивы. В начале 2000-х около 70% контента в Интернете было оригинальным, а сейчас - лишь около 7%. Ну и какое обучение будет на этом мусоре?

(7) Все вышеописанные AI-алгоритмы, даже будучи кривыми и опасными, всё равно будут активно размножаться в нашей техногенной монокультуре (благодаря чокнутым пиарщикам). Поэтому нужны правила безопасности - но не в виде азимовских "законов робототехники", предписанных роботам (это всё равно, что предписать этический кодекс деревьям и мышам). В первую очередь правила безопасности относительно машин должны быть закреплены в правах и обязанностях людей. Например, право в любых случаях знать, общаешься ли ты с роботом или с человеком, право получить человеческий аналог любого робосервиса и право отключить любую вредоносную машину.

...ну и так далее.

И вот после того, как я вволю оттоптался на тупых роботах, мне обычно задают вопрос - неужели не ожидается совсем ничего хорошего от искусственного интеллекта? Людям хочется увидеть Белоснежку, а не только уродливых гномов. И в этот раз модератор дискуссии тоже спросил - скажите напоследок, какие могут быть позитивные открытия в этой области?

Collapse )

либеральный надзиратель

"Есть такая инфа, что бюджет Пентагона в 20 раз больше, чем бюджет Минобороны РФ. Поэтому каждый раз, когда в новостях рисуют "российского хакера", полезно представлять напротив него примерно 20 американских хакеров, которые атакуют нас прямо сейчас."

Я написал это больше года назад, и некоторые читатели задались вопросом, откуда автор взял столь прямую связь между военными расходами и количеством хакеров. Правда, в том посте был намёк на ответ (карта кибератак, статистика), но некоторым людям всё ещё неочевидно.

Недавно появился другой интересный пример корреляции с тем же военным параметром. Международный исследовательский центр Carnegie выпустил отчет под названием "Глобальное распространение слежки на основе искусственного интеллекта". Исследовано применение нескольких технологий тотального надзора, включая системы распознавания лиц и необычной активности, AI-детекторы лжи для тестирования иммигрантов на границах, полицейские системы анализа данных для "предсказания преступлений" и др.

По словам авторов отчёта, они сами удивились результатам. Ожидали, что это будет история только про Китай и какие-нибудь ближневосточные деспотии. Оказалось, что нет. Массовая слежка на основе искусственного интеллекта уже применяется в 51% "демократических" стран. А среди "авторитарных" режимов этот показатель существенно меньше (37%).

Кроме того, не только китайские, но и американские компании (IBM, Palantir, Cisco) сейчас активно продают свои системы AI-слежки в страны третьего мира. Помогают в этом бизнесе и другие "либеральные" страны - Франция, Германия, Израиль, Япония.

Ну и основное наблюдение - распространение высокотехнологичной слежки за гражданами не связано с политическим режимом, зато оно сильно коррелирует с военными расходами страны:

Military spending strongly correlates to AI surveillance spending. 40 of the world’s top 50 military spending countries also use AI surveillance technology.

Кстати, на сайте вместе с отчётом есть интерактивная карта, где можно выбрать страну и посмотреть, какие компании являются там основными поставщиками систем AI-слежки. В России, по их данным, рынок надзора делят американцы и китайцы. Список основных игроков - Cisco, Huawei, Analytical Business Solutions, NtechLab, Speech Technology Center. Правда, последние три компании из этого списка считаются как бы "российскими". Но может, мы просто не всё знаем про них? Либо у них такая несущественная доля рынка, что их просто не различают на фоне американо-китайской слежки.

Update: Уже после публикации этого поста узнал, что сегодня - 70 лет блоку НАТО. Ну да, прямо что-то в воздухе.

мочить искусственный интеллект

В Питере с 1 по 5 ноября будет проходить кинофестиваль "Мир знаний". Программа большая, там есть даже такое детское мероприятие, как "мастер-класс по программированию от Минобороны". Видимо, дети будут собирать боевых роботов и тут же тестировать на почтенной публике.

Что же касается меня, то я планирую выступить на "Научном квартирнике", где буду разоблачать мифы об искусственном интеллекте.

Так что если вы в Питере в ближайшее воскресенье - заходите.
Начинается квартирник 3 ноября в 18 часов в "Цифербурге" (Набережная Фонтанки, 20).
Насколько я понял, вход бесплатный, но нужно зарегистрироваться.


krokodil

русское обратное

Не перестаю удивляться тому, как программисты загадили русский язык своими автоматическими переводами. Уже не раз писал об этом - и про дурацкое слово "приложение" (нечто вторичное, не основная часть), и про "межсетевые экраны" (нечто хрупкое и открытое, вместо оригинального значения "защитная стена").

А сегодня услышал ещё одно такое машинное клише: "обратная разработка". Сразу представилось, как звучали бы аналогичные конструкции с другими процессами:

"В результате землетрясения здание подверглось обратному строительству"
"Мачеха смешала бобы с чечевицей и велела Золушке проделать обратное смешивание"
"Солдат должен уметь собирать и обратно собирать автомат"


Хотя, казалось бы, чего проще. Если в программировании слово engineering означает создание кода, то reverse engineering - это восстановление кода. На худой конец, просто раскодирование. Но нет, они продолжают везде лепить "обратную разработку". Ещё немного, и хакеров начнут называть "образрабами".

Конец искусственного интеллекта

Лекция получилась хорошая, аж на полтора часа. А вот запись подкачала: камера стоит не в самом лучшем месте, слайды бликуют стробоскопически.

Поэтому советую не смотреть, а просто слушать. Там и без слайдов всё понятно.

Впрочем, это мне так кажется. А вы напишите тут в комментах, понравилось или нет. Ниже я вставил запись, которая лежит на "Вконтакте". Можно смотреть то же видео на YouTube.