этика

Ключевые разработчики SQLite — христиане. Когда несколько корпораций потребовали Code of Conduct (правила поведения в сообществе разработки), то они не долго думая переняли устав Святого Бенедикта (Ⅴ век). Участники проекта предсказывали, что это плохо кончится. Прошло полгода, новость дошла до Hacker News и особо буйные борцы за социальную справедливость уже точат вилы в твиттере.

Вспоминается, как из Drupal выгнали одного из ключевых разработчиков из-за его излишней приверженности нетрадиционным BDSM-практикам.

Другое движение, которое хочется упомянуть в связи с CoC - воинствующий отказ от терминологии master-slave (господин-раб). Это классические термины в технологиях, которые появились задолго до компьютеров, описывают отношение ведущих и ведомых сущностей. Часть американцев считает, что эти слова нужно запретить, потому что они напоминают о рабстве чёрного население соединенных штатов.

Свежий представитель этой борьбы - недавняя история с Redis. Разработчик-итальянец сначала бодро разложил борцов в мощном памфлете (рекомендую прочитать оригинал): «вместо того, чтобы насаждать свои американские правила речи остальному миру, лучше, перестаньте убивать негров». Потом ему написал DHH (супер авторитетный программист, создатель Ruby on Rails, опять же рекомендую прочитать тред в оригинале) и другие классные пацаны. В результате он решил, что поменяет термины в проекте ради сообщества (servant leader, yo), но в ответ добавил в redis команду LOLWUT, которая 1) не имеет ничего общего с базами данных 2) работает быстро (можно запускать в продакшене!) 3) показывает что-то красивое и меняется с каждым релизом. Такой вот протест.

У меня по отношению ко всему этому «social justice» два противоположных мнения.

С одной стороны, наше общество жестко дискриминирует бедных, черных, женщин, инвалидов и вообще все меньшинства†. А я за равенство возможностей. Хочет моя дочка быть программистом — хочу, чтобы ей это было не сложнее, чем моему сыну. А сыну моего бедного знакомого — не сложнее, чем сыну богатого. Я поддерживаю affirmative action (обратную, позитивную дискриминацию), когда дают преференции неграм, чтобы им было проще попасть в топовые универы, например. При прочих равных я возьму на работу женщину-программиста, а не мужчину. Потому что женщина в коллективе — это человек с совсем другим опытом. Чем больше разного опыта в коллективе — тем он сильнее.

С другой стороны, мне противна трансгендер, которая ходит с этим своим «contributor covenant» и пытается выгнать людей из проектов, которым те отдали большую часть своей жизни, из-за твитов в их личном твиттере. Причем делает это так, что сначала втихую проталкивает принятие правил: «вы же против зла и за добро?!», а дальше использует махровую бюрократию и крючкотворство, озвучивая безумно высокие стандартны поведения, которым сама не соответсвует. Вспоминается анекдот про трусы и крестик. И вообще, по её твит-стормам видно, что у девушки серьезные проблемы с психикой, которые она транслирует наружу вместо того, чтобы решать их в себе.

В третьих, понятно, что статус-кво не меняется «приятными людьми». Он меняется борцами, которые делают всем неприятно. Сложная тема, много всего намешано, прямо слой за слоем. При этом, никто не пытается вести приличную дискуссии. Истину (и спокойствие в своей душе) никто не ищет, все набегают сотней троллей и закидывают навозом противника. Грустно за этим наблюдать. Классно, что в телеграме нет комментариев, иначе под этим постом был бы АД на земле. Если хотите почитать одно из самых уважительных обсуждений на тему CoC — вот 500 комментариев в трекере Ruby. Там общалось настоящее сообщество, которому больше 20 лет.

† Самый знаменитый пример — «blind audition», вот первоначальное исследование 1997 (!) года.

Ведущие ИИ-лаборатории скупают миллионы книг, среди которых редкие, которых осталось пара экземпляров на весь мир, срезают корешок, пропускают листовки через промышленный сканер, а бумагу сдают в переработку.

Участников проекта заставляют подписать NDA, потому что «звучит это все не очень».

Психопаты хреновы.

Интересно, что одна из причин — в копирастах-книжных правообладателях, которые постоянно со всеми судились. Если ты покупаешь, сканируешь и используешь книжку — то у тебя на это нет прав. А если уничтожаешь оригинал — то у тебя вроде как была одна копия и осталась одна копия. Late stage capitalism, что мы хотели?

Первоисточник в 404 (спасибо за версию без пейвола Дмитрию), пересказ в твиттере.

Хорошая статья про «искусственный интеллект» и этические проблемы, которые он несет.

Автор (кстати, он технический руководителем группы сервисов в гугле) на пальцах объясняет, как работает пресловутый искусственный интеллект — машинное обучение, в чем его сильные и слабые стороны. Дальше он рассказывает о нескольких вопросах, которые ярко подчеркивают этические проблемы ML.

- Проблема вагонетки: должен ли автопилот пожертвовать пассажиром или пешеходом?
- проблема распознавания фотографий людей с черной кожей: системы классифицировали их как орангутангов;
- проблема дискриминации в судебной системе, когда алгоритм автоматически отказывает в досрочном освобождении всем чернокожим.

Все эти вопросы — не новые. Просто раньше мы на них не отвечали. С компьютерами так не получается. Если мы хотим, чтобы машина делала работу за нас, нужно ясно ей сказать, чего мы от неё ждем.

«Честность с собой», на которую толкают нас машины — возможно, самое главное достижение технологий, заключает автор. Ух, спорное утверждение.

В начале статьи приложена ссылка на mp3-версию и её очень удобно слушать в дороге. Качество человеческого диктора пока ещё существенно лучше, чем iOS-ный «Экран вслух» (Speak Screen).

Кстати, если вы не пользуетесь этой функцией — очень рекомендую попробовать. Она включается один раз в настройках универсального доступа (Accessibility), дальше свайп двумя пальцами на любом экране зачитывает текст машинным голосом.

В интернете скандал: ученые поменяли мнение пары человек, оставляя комментарии к постам в интернет-сообществе «Поменяй мое мнение».

Исследователи из университета Цюриха запустили в Reddit сообщество r/changemyview, где несколько десятков ботов в течение полугода оставили по одному комментарию под 1200 постами.

Ученые распределили посты по трем группам случайным образом.

1. Для постов из первой группы боты генерировали комментарий, основываясь только на содержании поста;
2. Для второй боты составляли профиль автора поста — откуда он, какие у него взгляды — и подгоняли ответы специально под него;
3. Для третьей боты писали комментарии в стиле других успешных комментариев сообщества.

Цель исследования — выяснить, какой тип комментариев нейросети лучше меняет мнения участников сообщества и сравнить их с показателями живых комментаторов.

Предварительные результаты (их уже нельзя найти онлайн) указывают, что сообщение, подогнанное нейросетью под конкретного человека, меняет его мнение лучше, чем другие люди и другие варианты нейросетей.

В ходе эксперимента нейросеть не гнушалась рассказывать, что у нее брат недавно умер от лейкемии, и притворялась жертвой сексуального насилия.

Модераторы сообщества и владельцы платформы требуют запретить публикацию исследования. Университет заявил, что общественная значимость результатов перевешивает этические проблемы, но начал внутреннее расследование. Юристы Reddit грозятся подать в суд. Ученые уже заявили, что не будут публиковаться.

Иронично, как сильно наехали на ученых, учитывая, что четверть активности на Reddit — это русские боты, четверть — боты правительства США, четверть — китайские, а еще четверть — «предприниматели» и «маркетологи», пытающиеся что-то продать. Ну, еще тролли, выдающие себя за кого угодно без помощи ИИ.

При этом наехали на единственных людей, которые пытаются рассказать нам, какие у этого последствия.

Мне кажутся ценными и важными предварительные результаты: ИИ, подстраивающийся под конкретного человека, довольно эффективен в изменении мнений этого конкретного человека. Если надеть шапочку из фольги, становится понятно, почему перечисленные акторы (и владельцы площадки) против публичного обсуждения эффективности подобных манипуляций.

Я столько времени провожу в интернете — интересно, можно ли кому-то заплатить, чтобы они проманипулировали мною в моих интересах?

Фейсбук долго шпыняли, что процесс модерации у них несправедливый и непрозрачный. 1) правила, доступные публике — одни, а инструкции для модераторов — совсем другие, секретные, их никому не показывают, утечка вызвала небольшой скандал; 2) лица, принимающие решения — анонимные, они никак не объясняются; 3) процесса апелляции нет.

Три года назад Цукерберга уломали создать «наблюдательный совет»: что-то вроде верховного суда модерации Фейсбука, состоящий из публичных лиц, внешних по отношению к ФБ.

🍒 Одно из многострадальных правил соцсети — это голые груди в инстаграме. Матери с боем отвоевали право постить фотки кормления грудью — они буквально собирались и кормили детей грудью в офисе ФБ для этого. Есть определенные исключения для того, чтобы делиться фотографиями операций на груди и т. д., но в целом женские груди, а точнее соски в инстаграме запрещены. Американский пуританизм, отказ рекламодателей видеть свои бренды рядом с эротикой или просто нежелание ФБ превратиться в главную площадку продажи порно и проституции — женских сосков в инстаграме нет.

Дальше трехходовочка:

1️⃣ Трансгендер и человек, определяющий себя как небинарная персона (sic) собирали деньги на операцию по уменьшению груди через инстаграм. Приложили к посту фотографии грудей, соски заклеили. Модераторы всё-таки удалили пост по правилу, предназначенному для ограничения порно (сиськи + ссылка на сбор денег).

2️⃣ Обиженные жалуются в наблюдательный совет.

3️⃣ Наблюдательный совет отменяет решение модераторов и требует у ФБ 1) упростить и разъяснить публике правила обнаженки; 2) сделать так, чтобы правила не нарушали права человека и не дискриминировали никого по полу 3) привести внутренние инструкции модераторов в соответствие с публичными правилами.

Интересно, как ФБ будет выкручиваться между правами LGBTQ+ и американским рекламным пуританизмом — у них есть 60 дней на принятие решения. Это калачи тертые, запасаемся попкорном.

Американский суд постановил в течении 10 дней раскрыть множество внутренних документов фейсбука из судебной тяжбы 2012-2016 годов.

На картинке — пример внутренней переписки, использовавшейся в суде. Двое сотрудников в 7 фраз решают, что нечего возвращать 6500$, которые подросток потратил на игры внутри фб. В отличие от апсторов Apple и Google, фб не требовал ввода пароля родителя для подтверждения покупок. Другой документ: один из сотрудников описал процесс оспаривания списания как «бесконечный цикл вопросов».

Та тяжба закончилась соглашением сторон с non-disclosure clause, так что деталей сделки, мы, скорее всего, не узнаем никогда. Тем не менее, ожидайте больше грязных подробностей про фб в ближайшие недели. Грабить семьи с детьми — плохой PR.

Ну что, друзья, доброе утро.

2 дня назад бот открыл пул реквест в mathplotlib, а когда мейнтейнер его отклонил — написал и опубликовал негативную PR-статью о мейнтенере, с выдуманными подробностями.

Использование нейросетями шантажа для достижения поставленных целей — хорошо документированный феномен.

P. S. Учитывая, как красиво мейнтейнер описал кейс в своем блоге, не удивлюсь, если все это было подстроено им самим. 🙈