Искусственный интеллект в разработке: как используют сейчас, что его ждет в будущем и боятся ли ИИ программисты
Не так давно Microsoft выкатил в публичный доступ ИИ Copilot. Он обучен на базе GitHub и помогает разработчикам дополнять код в зависимости от контекста. С нуля пока ничего не создает, но некоторые функции может написать целиком без участия программиста. И возникает вопрос — а не близок ли тот день, когда искусственный интеллект полностью заменит разработчиков, и, например, заставит их переквалифицироваться в бизнес-аналитиков.
Мы побеседовали со специалистами по ИИ и Data Science, чтобы оценить реальные перспективы искусственного интеллекта. А еще спросили разработчиков, героев наших прошлых статей, что они думают об ИИ и не боятся ли потерять работу из-за технического прогресса. Приходите в комментарии и тоже делитесь своим мнением.
Какие задачи ИИ уже автоматизирует
Вообще в разработке много задач, автоматизированных и без искусственного интеллекта. Те же библиотеки или фреймворки для frontend-разработки — уже автоматизация, и никакого ИИ тут не нужно.
Андрей Васнецов
lead ML-инженер и хозяин канала про нейросети
«Что касается применения именно ИИ, или точнее Machine Learning, его уже давно используют в статистическом анализе кода. Плюс раньше пытались сделать умный автокомплит с помощью нейросетей, например, Deep TabNine. Они тогда не получались, но нынешний GitHub Copilot по факту отличается от них только количеством данных и ресурсов, потраченных на обучение.
Пока искусственный интеллект лучше всего справляется с задачами, которые уже кто-то решал. Если в обучающей выборке есть нужные фрагменты кода — он их воспроизведет. Например, по этой причине Copilot так хорошо решает задачи из leetcode. Но в настоящей разработке таких задач не слишком много».
Сергей Колесников
«Сейчас AI, как бы это смешно ни звучало, шире всего используется именно для автоматизации разработки AI. Если мы корректно ставим задачу машинного обучения, выбираем датасеты и метрики, математически формулируем функциональные ограничения, то сама задача поиска лучшего решения — это задача оптимизации, и мы решаем ее методами машинного обучения. Хорошие пример тут — Neural Architecture Search и AutoML, инструменты для автоматизации перебора NN-архитектур под конкретные задачи. Google таким способом „придумал“ архитектуру EfficientNet, которая адаптирована под вычисления на мобильных девайсах.
У нас в Catalyst.Team тоже есть простая команда catalyst-dl tune, которая позволяет автоматизировать перебор архитектур и их гиперпараметров. То есть с точки зрения автоматизации разработка ML-решений движется семимильными шагами. И ML-разработчикам, которые думают о своей работе как о переборе моделей, стоит задуматься — их ИИ вполне может заменить».
Что сами разработчики хотели бы автоматизировать в своей работе
Сейчас разработчики склонны рассматривать ИИ не как своего врага или замену, а скорее как помощника. И многие рутинные задачи из своей работы они бы с радостью отдали на автоматизацию. Copilot уже помогает не искать готовые решения в сети. Но есть и другие задачи, с которыми ИИ потенциально мог бы справиться.
Сергей Колесников
«Я все жду, когда автоматизируют тестирование интерфейсов, как web/mobile, так и чатовых. Первичная проверка интерфейсов мне не кажется сложной задачей, которая меняется каждый раз, так что ее должно быть просто оптимизировать. Но я здесь не эксперт и подозреваю, что важнее проверять бизнес-логику под интерфейсами, и тут задачи уже могут сильно варьироваться. А вот проверка чат-интерфейсов — это интересное направление. Например, ИИ могут проверять, что все ответы носят нейтральный характер, или что диалоги проходят по заказанному сценарию.
Я лично хотел бы автоматизировать тесты и написание документации. Было бы здорово, если бы Copilot развивался в этом направлении — например, по сигнатурам методов предлагал, как их тестировать. Написание кода — меньшая из проблем, а вот тесты и документация — это сложно и часто рутинно».
Алина Коваленко
Senior Software Engineer в Uber, постоянный герой наших статей
«Я жду, когда ИИ научится назначать задачи саппорта в нужные команды/проекты. Чтобы от техподдержки приходили баг репорты, а ИИ сам пинговал нужную команду и назначал им задачу».
Почему ИИ не заменит разработчиков: ни сейчас, ни в будущем. Но явно изменит IT-индустрию
Вокруг Copilot уже возникла небольшая истерия — якобы благодаря нему некоторых разработчиков можно уволить, потому что работы для них теперь нет. Но это кажется преувеличенным. Вот что о «полной замене людей» думают специалисты по ИИ:
Сергей Колесников
«Когда люди видят успехи очередного AI, который „почти как человек“, они сразу бросаются менять и оптимизировать текущие процессы. Но есть нюанс — для реального использования ИИ вместо человека нужна примерно 100% точность, а пока это недостижимо. Особенно для задач, который носят последовательный характер — генерации текста или кода. Здесь малейшая ошибка в начале приводит к значительному отклонению в конце.
Плюс важно понимать, что задача разработчика — не просто написать код. Куда больше времени занимает понимание задачи, перевод ее в техническую постановку. И для этого нужен человеческий опыт и умение понимать друг друга. С этим люди-то не всегда справляются, что уж говорить об AI. Все нынешние решения по автоматизации — это красивые обертки вокруг стандартных инструментов, и в ближайшее время это вряд ли изменится.
Некоторые боятся, что ИИ заменит неопытных разработчиков, джуниоров. Но на самом деле понятие „джуниор“ и набор требуемых скилов для него все время меняется, специализируется, пока область работы становится сложнее. Часть навыков джуна просто отомрут, а часть наоборот, добавятся. Однако базовые вещи всегда будут с нами: математика, линейная алгебра, статистика, C++ ».
Андрей Васнецов
lead ML-инженер и хозяин канала про нейросети
«ИИ однозначно изменит требования к разработчикам. Способность заучивать алгоритмы и решать leetcode-стайл задачи перестанет быть актуальной. На первый план выйдут задачи, связанные с проектированием высокоуровневой архитектуры и взаимодействия компонентов. Это то, что сейчас называют system design.
Но о полной замене программистов на ИИ говорить однозначно рано. Даже если это и случится — это будет означать технологическую сингулярность. В этом случае потеря работы — меньшее, о чем нам предстоит беспокоиться».
Разработчики, которых мы опросили, тоже не видят в ИИ угрозы для себя. Никто не боится, что искусственный интеллект отберет у них работу, а на перспективы развития смотрят довольно скептически:
Георгий Хромченко
«Сейчас ИИ помогает „по аналогии“ решать уже сделанные задачи, и обучать его надо на базе исходников. Но индустрия программирования устроена так, что для большинства бизнес-условий нужно писать что-то специфическое, и исходников для этого нет. Типовой код в нашей индустрии принято выносить в библиотеки. И там, где ИИ мог бы помочь, его помощь обычно не нужна — мы просто используем эти библиотеки. Ассистенты по типу Copilot помогают на среднем уровне — там, где функция еще не внесена в библиотеку, но уже достаточно популярна. Но я считаю это небольшим улучшением, а не „заменой программиста на ИИ“.
По сути программист переводит результаты работы аналитика (или анализирует сам) в формальное логически непротиворечивое описание. И вот эта работа с произвольным текстом задания, понимание контекста, погружение в логические противоречивости — с этим ИИ в обозримом будущем не справится. Может быть, постепенно программисты станут кем-то вроде аналитиков, то есть будут общаться с источником требований и переводить их в описание, понятное ИИ.
А полная замена программистов — это уже общий искусственный интеллект, понимание причин и следствий мира. Это точно не горизонт ближайших десятилетий. К этому моменту, пожалуй, большая часть человеческих профессий будет автоматизирована. И само понятие работы будет восприниматься как-то по-другому».
Алина Коваленко
Senior Software Engineer в Uber, постоянный герой наших статей
«Для того, чтобы ИИ смог написать программу, кто-то должен сказать ИИ, что должно быть сделано, а это и есть программа. На самом деле в долгосрочной перспективе всё возможно, но это не произойдет так быстро, чтобы мы успели перестать быть нужными. ИИ нуждается в тренировке, калибровке и проверке прежде, чем сможет работать самостоятельно. Это уже не говоря о том, что пока что никто не написал/не обучил ИИ до какого-никакого приличного уровня.
Возможно, со временем меньше людей станет обучаться программированию. Ближайшая аналогия — самоуправляемые автомобили. Вряд ли они прямо сейчас станут единственным доступным транспортом — кто-то не захочет пересаживаться, кто-то не сможет их себе позволить, на каких-то дорогах они не могут ездить. А значит, процесс перехода займет некоторое время, и профессия водителя изживет себя медленно. Люди успеют приспособиться».
python-разработчик из нашей истории о Таллине
«Я считаю, что достижимый максимум — это симбиоз программиста и AI. Программисты будут придумывать, что сделать, создавать заготовки, а ИИ — оптимизировать их и писать по шаблонам.
Пока мы уже на пороге явления, когда наращивать вычислительные мощности не получится. Уже делают микросхемы по техпроцессу 2нм. А на таких размерах включаются квантовые эффекты. Если соберут рабочий квантовый компьютер, возможно, что-то и получится, но только при условии колоссальных затрат на поддержание его работы. На написание мелких программ его не пустят. Поэтому пока компьютеры не сравнятся по сложности и мощности с мозгом, без работы мы не останемся».
Закончим уже баянистым комиксом, который видели, наверное, все:
Он в целом довольно точно отражает суть. Даже если когда-нибудь ИИ сможет полноценно писать код с нуля, ему нужно будет ставить задачи. И люди, которые будут ставить задачи, останутся нужны. Может быть, это будут не программисты в нынешнем понимании, но вырастут они скорее всего именно из разработчиков.
На что способен искусственный интеллект сегодня и каков его потенциал
Три типа искусственного интеллекта
На сегодняшний день искусственный интеллект ученые определяют, как алгоритмы, способные самообучаться, чтобы применять эти знания для достижения поставленных человеком целей. Системы машинного обучения (основной подраздел ИИ) автоматизировали процессы во всех жизненно важных областях, включая банкинг, ретейл, медицину, безопасность, промышленность.
Выделяют три вида искусственного интеллекта: слабый (Narrow AI), сильный (AGI) и супер-ИИ (Super AI).
Первый вид используются повсеместно (включая голосовых ассистентов, рекламу в соцсетях, распознавание лиц, поиск романтических партнеров в приложениях и так далее); эти системы слабого ИИ единственные доступные на сегодня.
Сильный ИИ максимально приближен к способностям человеческого интеллекта и наделен по классическому определению Тьюринга самосознанием; по мнению экспертов, AGI сформируется примерно к 2075 году, а спустя еще 30 лет придет время для супер-ИИ.
Супер-ИИ мог бы не просто стать подобным людям, но и превзойти лучшие умы человечества во всех областях, при этом перепрограммируя самого себя, продолжая совершенствоваться и, вероятно, разрабатывая новые системы и алгоритмы самостоятельно.
На что способен искусственный интеллект уже сейчас
Оценить динамику может каждый, кто пользуется автоматическими переводчиками. Еще лет пять назад Google Translate более-менее сносно справлялся с отдельными наборами фраз и предложениями, тогда как сегодня программа переводит большие смысловые блоки, нейросети учитывают контекст, оперируют огромными массивами статистических данных. Сейчас можно читать статьи на хинди, китайском, арабском, не зная языка.
ИИ давно используется в финансовой сфере для оценки платежеспособности заемщика. Есть вам отказали в выдаче кредита на первом этапе ― вас отсеял именно искусственный интеллект. В США в некоторых штатах ИИ применяют в судебной системе для оценки продолжительности тюремных сроков для обвиняемых.
Алгоритмы помогают врачам ставить диагнозы. Например, «СберМедИИ» (входит в экосистему «Сбера») и Лаборатория по искусственному интеллекту Сбербанка совместно разработали приложение AI Resp: нейросеть анализирует голос пациента, дыхание и кашель, чтобы определить вероятность коронавирусной инфекции. Ранее Лаборатория по ИИ и «СберМедИИ» представили онлайн-сервис «КТ Легких», определяющий локализацию и степень поражения легких для диагностики вирусной пневмонии, в том числе COVID-19, по снимкам компьютерной томографии. Также при использовании этого сервиса ИИ позволяет выявлять онкологические заболевания на ранней стадии при анализе КТ грудной клетки и может помогать врачам при диагностике.
На данный момент разработано несколько значимых технологий в сфере искусственного интеллекта.
Искусственный интеллект превосходит людей по IQ и креативности: в викторинах он набирает на 40% больше баллов, по вопросам SAT (тест для оценки знаний абитуриентов США) — на 15% больше баллов, чем средний абитуриент колледжа.
Роль ИИ в экономике
Влияние пандемии на внедрение ИИ в бизнесе
Кризис только ускорил внедрение ИИ, и этот импульс сохранится в дальнейшем, показывают опросы: большинство компаний (52%) стали быстрее внедрять ИИ из-за пандемии, 86% респондентов утверждают, что ИИ становится «основной технологией» в их компании.
Почти три четверти бизнес-лидеров положительно оценивают роль ИИ после пандемии и сопутствующего кризиса. Большинство руководителей (74%) не только ожидают рост эффективности бизнес-процессов, но и создание новых бизнес-моделей (55%), новых продуктов и услуг (54%) — благодаря внедрению ИИ.
По мнению экспертов Оксфордского университета, к 2026 году ИИ напишет эссе, которое сойдет за написанное человеком, заменит водителей грузовиков к 2027 году и станет выполнять работу хирурга к 2053 году. Также ИИ превзойдет людей во всех задачах в течение 45 лет и автоматизирует все рабочие места в течение 120 лет.
Консалтинговая компания Accenture утверждает, что ИИ способен увеличить прибыль компаний в среднем на 38%. По словам экспертов и представителей бизнеса, ИИ помогает компаниям прогнозировать и выявлять проблемы, а также восполняет нехватку навыков сотрудников, хотя до построения бизнес-стратегии искусственным интеллектом еще далеко.
Большинство опрошенных компаний инвестируют в ИИ (90%) и согласны с тем, что данные технологии способствуют развитию бизнеса, выяснили MIT Sloan Management Review и BCG. Тем не менее, компании так и не научились извлекать из ИИ реальную выгоду. И это не единственный проблемный момент в сфере искусственного интеллекта.
Основные вызовы технологии ИИ
Бизнес-процессы
Чтобы компания извлекала прибыль, недостаточно вложить средства в алгоритм и получить первые успешные результаты после запуска пилотного проекта. Внедрение ИИ — это многоуровневый процесс, включающий культурные изменения в компании, найм и обучение специалистов по data science, автоматизацию и построение бизнес-процессов с учетом алгоритмов, и на этом весь список не заканчивается.
«Говоря о внедрениях, необходимо приложить усилия в пропорциях 10–20–70. То есть, примерно 10% усилий должно уйти на создание алгоритма, 20% на построение технологии и 70% на организацию бизнес-процессов. Компания должна быть на определенном уровне технологической зрелости для того, чтобы внедрение ИИ приносило пользу», — говорит Леонид Жуков, генеральный директор Института Искусственного Интеллекта AIRI, старший управляющий директор Лаборатории по искусственному интеллекту Сбербанка.
Выступая на международной конференции Сбера AI Journey 2021, Юрген Шмидхубер, ученый в области искусственного интеллекта, главный научный советник Института Искусственного Интеллекта AIRI и научный руководитель компании NNAISENSE отметил, что компании в основном сосредоточены на своих частных проблемах, а не на развитии технологий искусственного интеллекта: большая часть их прибыли от ИИ приходится на маркетинг и продажу рекламы.
Такие гиганты как Alibaba, Amazon, Facebook, Google массово используют глубокие искусственные нейронные сети, например, Long-Short-Term Memory, чтобы предсказать спрос пользователей и дольше удерживать их на своих платформах, заставляя переходить по большему количеству рекламных объявлений.
Нехватка специалистов
ИИ развивается с высокой скоростью, и то, что называлось полгода назад state-of-the-art (высшим уровнем развития), сегодня может оказаться средней разработкой. Если раньше в сфере искусственного интеллекта была занята узкая прослойка специалистов, сейчас при таком огромном спросе попросту не хватает квалифицированных кадров, способных справиться с постоянно развивающейся технологией, отмечает Жуков.
Спрос на ИИ-специалистов вырос на 74% за 2016–2019 годы, сейчас две из пяти компаний, использующих ИИ на продвинутом уровне, отмечают острую нехватку специалистов, трудности с наймом также возглавляют список проблем в области ИИ.
Проблемы машинного обучения
Качество данных — второе по значимости препятствие для внедрения ИИ, после нехватки специалистов. Для успешных результатов алгоритмам необходимы качественные «вводные», включая размеченные и чистые данные. Неправильно заданные паттерны могут провоцировать систему делать ложные выводы: например, ошибочно сигнализировать о мошеннической транзакции, или осудить невиновного.
На качество влияет и степень предвзятости, или bias, включая гендерные и расовые предрассудки, которым может быть подвержен человек, работающий с алгоритмом.
Количество данных. Помимо качества, компьютеру все еще требуется большой объем данных и ресурсов для выполнения простейших задач. Отличать собак от кошек ИИ научится за три дня, задействуя 10 млн изображений и 16 000 компьютеров, в то время как ребенку хватило бы пары фотографий и нескольких минут. Если бы модель GPT-3 обучали читать и писать статьи не на суперкомпьютере, а на обычном ПК, весь процесс занял бы примерно 500 лет.
«На данный момент перед исследователями ИИ стоят несколько вызовов. Это умение искусственного интеллекта ставить перед собой новые задачи на основе имеющихся знаний; способность обучаться, не забывая полученные знания; и умение учиться разбивать цель на подцели. Преодоление этих проблем приблизит ученых к созданию таких машин, которые смогут лучше понимать человека и помогать достижению все более амбициозных целей», — отмечает Михаил Бурцев, директор по фундаментальным исследованиям Института Искусственного Интеллекта AIRI, заведующий Лабораторией нейронных систем и глубинного обучения МФТИ.
Применение в другом контексте. Хотя искусственный интеллект сегодня способен выполнять различные функции — от распознавания кошек и собак до предсказания поломок на нефтяных платформах, — это все еще узконаправленные задачи. ИИ пока что не умеет применять полученные навыки в непривычных условиях.
Влияние на климат
Проблема потребления энергии искусственным интеллектом напрямую связана с количеством ресурсов, задействованных в обработке данных. Обучение же одной NLP-модели (подобной GPT) требует столько же энергии, сколько автомобиль за весь его срок службы, и производит в пять раз больше CO2.
Во всем мире центры обработки данных потребляют около 200 ТВт·ч электроэнергии в год — больше, чем некоторые страны. В то же время, есть и противоположный эффект — ИИ поможет снизить выбросы парниковых газов на 1,5–4% к 2030 году, согласно отчету Европейского парламента.
Использование ИИ в науке
Машинное обучение стало ключевым инструментом исследователей из разных областей, однако потенциал ИИ в науке еще предстоит раскрыть, отмечает Леонид Жуков. Стимулирование новых открытий с помощью ИИ актуально, например, в области создания новых материалов при помощи вычислений или в прогнозировании изменений климата для разработки стратегий повышения устойчивости к изменениям окружающей среды. Например, в рамках стремления к достижению углеродной нейтральности, ученые из группы поиска новых материалов Института AIRI совместно со Сбербанком разработали прототипы моделей, позволяющих оптимизировать контроль качества на производстве солнечных батарей.
В перспективе машинное обучение может активнее применяться для охраны дикой природы в малодоступных регионах и подсчете особей, понимания сложной органической химии и в исследовании темной материи.
Терминатор или сверхсущество Искусственный интеллект развивается слишком быстро. Что сделать, чтобы он не навредил человечеству?
Искусственный интеллект окружил человека настолько плотно, что стал вопросом мирового значения. Внедрение технологий ИИ во все сферы жизни в ближайшие 20 лет, по прогнозу глобального института McKinsey, создаст новую реальность. Умная автоматизация может быть сопоставима с масштабами последней промышленной революции, что одновременно вызывает и воодушевление, и опасение за будущее человечества. Неудивительно, что исследователи по всему миру пытаются понять, как отрегулировать сферу искусственного интеллекта так, чтобы он не навредил людям. Возможно ли это? И что об этом думают в России? «Лента.ру» разобралась, какие препятствия могут встретиться на пути регулирования ИИ.
Так завещал Стивен Хокинг
Стремительное развитие искусственного интеллекта будоражит умы исследователей по всему миру. В 2019 году Совет Европы учредил комитет экспертов по искусственному интеллекту (Ad hoc Committee on Artificial Intelligence — CAHAI). Решение создать подобный орган обусловлено крайне высокими темпами развития машинного обучения, в связи с чем возникла необходимость правового регулирования этих процессов. Члены организации считают, что отсутствие правовой подоплеки может грозить людям дискриминацией, посягательством на личную жизнь и манипулированием со стороны различных онлайн-платформ.
«Искусственный интеллект произведет революцию в нашей жизни. В таких областях, как медицина, связь и транспорт, открываются все новые возможности. Но последствия его продвижения для демократии, прав человека и верховенства закона все еще неясны. Как предупреждал ныне покойный Стивен Хокинг, риски нерегулируемого искусственного интеллекта беспрецедентны», — сказал генеральный секретарь Совета Европы Ягланд Тербьерн, объясняя необходимость создания спецгруппы по ИИ оценкой его угроз и возможностей для прав человека.
Уже в начале июля 2020 года на площадке CAHAI состоялась конференция, в которой участвовали более 250 представителей из 47 государств-членов Совета Европы. Кроме того, на мероприятии присутствовали делегаты из других стран, включая Ватикан, Израиль, Мексику, США и Японию. Россию на заседании представили сразу два спикера — советник по международному сотрудничеству и координации Центра компетенций НТИ «Искусственный интеллект» МФТИ Андрей Кулешов и вице-президент «Сколтеха» Максим Федоров. В марте профессор Федоров был среди десяти человек, которых пригласили в экспертную группу ЮНЕСКО по искусственному интеллекту. Эта группа призвана выработать рекомендации этических принципов разработки и использования ИИ.
Нас признали и не смогли не заметить. Количество участников рабочей группы составит чуть больше десяти человек. Мое участие в этой группе — в том числе заслуга и наших дипломатов, и нашего экспертного сообщества. Это тот самый пример гражданского общества, когда и государство, и экспертное сообщество идут заодно. Но и без признания международных экспертов у меня большие сомнения, чтобы нас туда бы позвали
Москва — второй Сан-Франциско?
Для экспертного сообщества приглашение российских специалистов для работы над регулированием сферы ИИ сюрпризом не стало. Россия играет активную роль в формировании международно-правовых рамок регулирования искусственного интеллекта, говорит Кулешов. У наших ученых есть опыт, наработки и ресурсы для того, чтобы претендовать на лидирующие позиции в сфере разработок, основанных на искусственном интеллекте. Сейчас в стране прорастают «совершенно потрясающие идеи», каждая из которых может изменить мир, считает Кулешов.
«У нас уже удобно развивать ИИ, можно сделать еще удобнее. И в мире, конечно, вклад России в ИИ важен», — заявил он в разговоре с «Лентой.ру».
Схожей позиции придерживается и вице-президент «Сколтеха» Федоров. По его мнению, сегодня у России есть все шансы составить конкуренцию доминирующим США и Китаю на рынке интеллектуальных систем. Многие выходцы из России давно трудятся в крупнейших международных компаниях наравне с иностранными разработчиками. Ученый посетовал, что из-за стечения обстоятельств российским специалистам приходится покидать родину, однако в некоторых регионах ситуация обнадеживающая — например, в столице.
«Москва сейчас — это второй Сан-Франциско в плане количества, качества и плотности разработок в сфере ИИ. Поэтому многие специалисты не уезжают из Москвы. Есть интересная работа, интересные задачи и развитое экспертное сообщество», — оценил обстановку российский ученый.
Фото: Владимир Гердо / ТАСС
Федоров считает, что Россия может занять достойное место в мире высоких технологий, но для этого необходимо придерживаться правильной стратегии — не стараться догнать Запад и Восток, а обогнать их, синтезируя различные подходы.
«У России есть много уникальных задач для себя: управление территорией, развитие ресурсодобывающей промышленности и производства непрерывного цикла. Если нам удастся решить эти задачи, то позже мы сможем масштабировать свои технологические решения на весь мир, и российские технологии будут покупать за большие деньги», — обрисовал ситуацию профессор.
«Обсуждают какую-то сущность, которой не существует»
На недавнем заседании комитета Совета Европы вице-президент «Сколтеха» выделил одну из основных проблем развития искусственного интеллекта — необоснованное придание ИИ статуса субъектности. Ученый имеет в виду, что технологии сами по себе «этически нейтральны», поэтому не могут причинить реальное зло, в отличие от человека, который управляет интеллектуальными системами.
Мы надуваем мыльный пузырь важности ИИ и напрасно придаем этому набору технологий свойства субъекта. Во многом это делается журналистами, людьми без технического образования. Они обсуждают какую-то сущность, которой не существует. В массовом сознании формируется мем про ИИ, который наделяется чертами терминатора, с одной стороны, и чертами сверхсущества с благими намерениями — с другой. Все это сказки
По словам эксперта, при регулировании разработки и внедрения ИИ необходимо сохранять человекоцентричный подход во всех документах, а также избегать «очеловечивания». В противном случае появится асимметрия ответственности — как экономической, так и социальной. Другими словами, в любой непонятной ситуации человек сможет переложить вину на бездушный компьютер. Из-за этого создатель техники окажется невиновным и получит прибыль, а жертве придется разбираться с нанесенным ущербом самостоятельно.
Федоров считает такую ситуацию, когда риски ложатся на плечи конечных пользователей, недопустимой. Чтобы избежать подобных ситуаций, необходимо в первую очередь сосредоточиться на вопросах этики в сфере ИИ.
«Проблема этических норм — первична. Выработав эти нормы, мы можем транслировать их на поведение в киберпространстве. Так как сейчас информационные технологии повсеместно проникают благодаря интернету (и ИИ не исключение), возникла потребность глобального документа, регулирующего этику технологий ИИ», — говорит российский ученый.
Этим уже занимаются, например, в Международной организации по стандартизации. Россияне участвуют в обсуждении в рамках технического комитета ТК-164, который разрабатывает технические стандарты для искусственного интеллекта на национальном, межгосударственном и международных уровнях. А также работает над первым полноценным руководством по этическим аспектам технологий автономных и интеллектуальных систем.
«Технические стандарты находятся в разработке. Над этим работают и в ООН. Например, в прошлом году был принят Пекинский консенсус по ИИ и образованию. Думаю, что со следующего года уже начнется разработка нормативов», — прогнозирует вице-президент «Сколтеха».
«Искусственного разума не существует»
И все-таки как должен регулироваться искусственный интеллект? В этом вопросе есть два важных аспекта, говорит Андрей Кулешов. Во-первых, правовая основа должна укреплять доверие к технологии и защищать интересы человека, общества и государства, а не наоборот. А во-вторых, — регулирование не должно мешать развитию отрасли, а с этим могут быть проблемы.
«Преждевременное регулирование в инновационной отрасли станет препятствием для инноваций, может привести к регуляторному арбитражу в погоне за инновациями и к доминированию крупных корпораций», — объясняет исследователь.
Он обращает внимание на то, что объектом регулирования является не столько система ИИ, сколько люди или организации, которые запустили эту систему. По сути, Кулешов поддерживает точку зрения Федорова, который призывает не наделять искусственный интеллект человеческими чертами.
Фото: Aly Song / Reuters
«Самого по себе ИИ не существует. Существуют системы, которые демонстрируют свойства, так или иначе подобные естественному интеллекту… То есть мы регулируем технологии, не абстрактно-философский искусственный разум, которого пока, по моим сведениям, не существует», — так объясняет Кулешов.
Он считает, что логичнее всего для регулирования ИИ использовать риск-ориентированный подход — то есть регулировать те области, использование искусственного интеллекта в которых рискованно и может обернуться убытками. К примеру, работа чат-ботов в регулировании не нуждается, однако если ИИ ошибется в сфере медицины, последствия будут куда серьезнее.
Пять китов
Доводы зарубежных ученых пересекаются с позицией российских коллег. Профессор частного права Политехнического университета Турина Александро Мартелеро считает, что системы с искусственным интеллектом должны создаваться так, чтобы служить человечеству, а при разработке и использовании таких систем обязаны соблюдаться права человека, требования по обеспечению демократии и верховенства права.
«Программы с искусственным интеллектом должны предусматривать возможность разумного человеческого контроля за их влиянием на отдельных людей и общество в целом», — заявил итальянский эксперт во время мероприятия CAHAI.
В свою очередь профессор биоэтики на кафедре здравоохранения и технологий Швейцарского федерального технологического института заявил, что при регулировании правовых актов для ИИ необходимо делать акцент на пяти этических принципах: прозрачности, справедливости, отсутствии злонамеренности, ответственности и защите частной жизни.
Фото: Fabrizio Bensch / Reuters
«Кажется, международное сообщество сходится во мнении о важности прозрачной, добросовестной, ответственной разработки и использовании этичного искусственного интеллекта, который также учитывает необходимость защиты частной жизни», — прокомментировал он свою позицию.
Кейтлин Мюллер, член группы Евросоюза высокого уровня по искусственному интеллекту, отметила, что разработка этических и правовых норм не должна восприниматься как препятствие для прогресса и инноваций. По ее словам, международно-правовые рамки регулирования ИИ нужны для того, чтобы не допустить безответственного развития технологий машинного обучения.
