Математики и программисты любят данные, гуманитарии читают Шекспира. Первые сводят все к строгим формулам, вторые различают стилистические оттенки текстов. Могут ли они помириться в эру засилья технологий? И нужны ли программистам гуманитарные науки?

Физики и лирики: эта музыка будет вечной?

Компьютерные науки прекрасны. Но не секрет, что многие люди, работающие в сфере IT, считают себя практически богами, а IT и математику – единственным, что имеет значение в современной жизни. Правда, им вторят рекрутеры и средние зарплаты по рынку – не только в Украине, но и в мире. Разрыв в доходах между IT-специалистами и гуманитариями растет.

А еще в какой-то момент гуманитарием стало быть стыдно. Шутки про McDonalds и другую неквалифицированную работу приелись хуже, чем шутки о блондинках. А некоторые интернет-мемы про физиков и лириков – просто утверждения "ниже пояса", как то картинки гуманитариев и параолимпиады по математике. Несмотря на такое кастовое различие и уверенность IT-специалистов в том, что они познали "святой Грааль" современного знания, многие блестящие IT-специалисты могут демонстрировать свое невежество в вопросах общего знания, то есть в той самой ненавидимой ими гуманитарной сфере.

Ограниченность общих знаний программистов и их пренебрежение в нетехнических вопросах особенно заметна тогда, когда нельзя решить проблему простым написанием кода. Отсутствие гуманитарных знаний у IT-специалистов проявляется в том, что они не задумываются об этических вопросах использования технологий.

Где наружный камень преткновения технологий и этики

Рекомендации на основе социальных различий, на основе пола, расы и других данных о человеке сегодня используются в очень многих приложениях и инструментах. Более того, система правосудия  в некоторых штатах использует приложения для оценки потенциальной опасности преступника. Такие приложения применяют принцип кредитного скоринга, то есть оценивают человека на основе имеющейся о нем информации. Это раса, пол, финансовое состояние, количество и тяжесть совершенных ранее преступлений. Оказалось, что использование алгоритмов на основе таких данных превращает их из инструментов объективной оценки в средство оценки субъективной. Такой алгоритм оценивает не только действия человека, а и его характеристики. Многие исследования показали, что такие алгоритмы, например, считают, что афроамериканцы больше склонны к преступлениям, чем белые люди.

Итак, этическая дилемма применения таких алгоритмов более чем очевидна. Кто знает, что было бы, если бы авторы таких алгоритмов лучше знали гуманитарные науки, в частности, этику, историю, политологию. Возможно, они бы постарались максимально объективизировать работу своего продукта и свести "на нет" влияние субъективных факторов.

Ни один математик или IT-специалист не скажет, как решить эту проблему. А вот социальные науки, работы по системной дискриминации, философия, история, право и юриспруденция помогут в ее решении, по крайней мере, на этапе формулировки критериев работы алгоритмов и метрик их эффективности.

Социальная ответственность алгоритмов

На самом деле, сегодняшнее программирование и технологии существуют наряду с огромным количеством этических вопросов. Например, должна ли поисковая система показывать сайты с советами для анорексиков подросткам, страдающим пищевыми расстройствами? Может ли существовать программа, которая бы отправляла анонимные сообщения о самоубийстве на сотнях форумов колледжей, чтобы увидеть, какие колледжи предлагают наибольшую поддержку таким людям? Должен ли существовать сервис, который используется для трансляции преступлений? И сделать так, чтобы сервис все еще работал, но не использовался для совершения преступлений?

К сожалению, мы пришли к такому развитию технологий, когда они увеличивают влияние наших прихотей, позволяют создавать продукты, которые могут навредить тысячам людей.

Возможно, решением проблемы станет ситуация, когда гуманитарии начнут работать вместе с программистами и будут регулировать их продукты? Это, увы, только частичное решение проблемы, такой подход будет половинчатым. Кодеры выпускают продукты со скоростью света, часто скрывая их функционал до официального запуска, прикрываясь при этом коммерческой тайной. Когда продукт появляется и становится массовым, в нем могут обнаружится этические изъяны, как результат – могут погибнуть или пострадать многие люди.

Гуманитарное образование для ИТ-специалистов

Одним из способов решить эту проблему может стать добавление специального гуманитарного блока в программу обучения IT-специалистов. Это стало столь же актуально, как и обучение этики врачей и юристов. В ряде западных университетов в программе бакалавров есть курс по этическим и социальным вопросам IT, но он не является обязательным. Более того, он несерьезно воспринимается студентами, которые слишком самоуверенны и свысока относятся к гуманитарным наукам.

Задача университетов – убедить, что "не математикой единой" должен быть сыт программист, а кроме математики есть множество других наук, незнание которых может буквально убить бизнес. Более гуманитарно ориентированная учебная программа с углублением в этические вопросы – это еще и ответственный шаг для будущих поколений. Благодаря таким знаниям будущие IT-разработки студентов принесут меньше вреда.

Стратегия ИТ-компаний: сила в разнообразии

Но не только университетам стоит задуматься об этических проблемах технологий. Есть много шагов, которые должны предпринять и сами технологические компании. Как минимум, они должны исследовать социальные и этические проблемы, которые создают их продукты. Например, Google и Microsoft стоит заняться исследованием алгоритмической дискриминации, а проблема алгоритмов Facebook и косвенный её результат — распространение фейков — вовсе имели глобальные политические последствия.

Компаниям стоит использовать внешний аудит, чтобы оценить этические последствия их продуктов. Кроме того, в IT есть множество должностей, не требующих IT-образования. Однако работают на этих должностях все равно люди с инженерным и математическим бекграундом. Возможно, одним из вариантов решения проблемы может быть более активное привлечение к работе людей с гуманитарным образованием?

IT-компаниям стоит нанимать людей, которым их продукты наносят прямой или косвенный вред. Например, тех, чьи лица не распознают их системы компьютерного зрения, кого не веселят эмодзи, чьи резюме они считают менее релевантными. Их нестандартный подход ко многим вещам может положительно отобразиться на готовом продукте.

Не исключено, что взаимодействие с не-IT-специалистами несколько замедлит работу маховика Силиконовой долины по производству стартапов. Однако это медленное движение может быть выигрышем в стратегической перспективе: лучше не сделать ошибку, чем её героически исправлять.

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: