Всего девять гигантских технологических компаний в США и Китае стоят за подавляющим большинством достижений в области искусственного интеллекта во всем мире. В своей новой книге Большая девятка: как технические титаны и их мыслящие машины могут исказить человечество (PublicAffairs, 5 марта) Эми Уэбб предвидит три возможных варианта будущего, от оптимистичного до апокалиптического, которые могут возникнуть в результате действий, которые мы предпринимаем или не предпринимаем, чтобы контролировать развитие искусственного интеллекта. и формировать его глобальное влияние. В этом отрывке она ставит ряд сложных этических вопросов, которые люди, создающие искусственный интеллект. системы следует использовать для руководства своей работой.
Правила - алгоритм, по которому каждая культура, общество и нация живет и когда-либо жила, всегда создавались всего несколькими людьми. Демократия, коммунизм, социализм, религия, веганство, нативизм, колониализм - это конструкции, которые мы разрабатывали на протяжении всей истории, чтобы помогать нам принимать решения. Даже в лучших случаях они не рассчитаны на будущее. Технологические, социальные и экономические силы всегда вмешиваются и заставляют нас адаптироваться.
Десять заповедей составляют алгоритм, предназначенный для создания лучшего общества для людей, живших более 5000 лет назад. Одна из заповедей - брать полный день отдыха в неделю и вообще не делать никакой работы в этот день. В наше время большинство людей не работают в одни и те же дни или часы от недели к неделе, поэтому было бы невозможно не нарушить правило. В результате люди, которые следуют Десяти заповедям как руководящему принципу, могут гибко интерпретировать их, учитывая реалии более продолжительного рабочего дня, футбольных тренировок и электронной почты. Адаптация - это хорошо - она действительно хорошо работает для нас и для нашего общества, позволяя нам не сбиться с пути. Согласование базового набора рекомендаций позволяет нам оптимизировать для себя.
биография жены баскетболиста дженнифер уильямс
Невозможно создать набор заповедей для А.И. Мы не могли написать все правила для правильной оптимизации для человечества, потому что, хотя мыслящие машины могут быть быстрыми и мощными, им не хватает гибкости. Нет простого способа смоделировать исключения или попытаться заранее продумать каждую непредвиденную ситуацию. Какие бы правила ни были написаны, в будущем всегда будут обстоятельства, при которых некоторые люди могут захотеть интерпретировать правила по-другому, или полностью их игнорировать, или внести поправки, чтобы справиться с непредвиденными обстоятельствами.
Зная, что мы не можем написать набор строгих заповедей, которым нужно следовать, должны ли мы вместо этого сосредоточить свое внимание на людях, создающих системы? Эти люди - племена ИИ - должны задавать себе неудобные вопросы, начиная с:
какой рост у памелы браун
- В чем наша мотивация для ИИ? Соответствует ли это долгосрочным интересам человечества?
- Каковы наши собственные предубеждения? Какие идеи, опыт и ценности мы не смогли включить в наше племя? Кого мы не заметили?
- Включили ли мы людей, непохожих на нас, для создания будущего ИИ? лучше - или мы просто включили разнообразие в нашу команду, чтобы соответствовать определенным квотам?
- Как мы можем гарантировать, что наше поведение инклюзивное?
- Каковы технологические, экономические и социальные последствия использования искусственного интеллекта? понимают те, кто участвовал в его создании?
- Какие основные права мы должны иметь, чтобы проверять наборы данных, алгоритмы и процессы, используемые для принятия решений от нашего имени?
- Кто определяет ценность человеческой жизни? С чем сравнивается это значение?
- Когда и почему представители племен ИИ считают своей обязанностью устранять социальные последствия ИИ?
- Имеет ли руководство нашей организации и наш A.I. племена отражают много разных людей?
- Какую роль играют те, кто занимается коммерциализацией искусственного интеллекта? играть в устранение социальных последствий ИИ?
- Стоит ли нам продолжать сравнивать A.I. к человеческому мышлению, или нам лучше отнести его к чему-то другому?
- Можно ли построить A.I. который распознает человеческие эмоции и реагирует на них?
- Можно ли заставить A.I. системы, способные имитировать человеческие эмоции, особенно если они учатся у нас в реальном времени?
- Каков приемлемый момент, когда мы все в порядке с ИИ? развиваться без участия людей непосредственно в цикле?
- При каких обстоятельствах A.I. моделировать и испытывать обычные человеческие эмоции? А как насчет боли, потери и одиночества? Мы в порядке, причиняем эти страдания?
- Разрабатываем ли мы A.I. искать более глубокое понимание самих себя? Можем ли мы использовать A.I. чтобы помочь человечеству жить более изученной жизнью?
Девять крупных технологических компаний - шесть американских и три китайских - несут огромную ответственность за будущее искусственного интеллекта. В США это Google, Microsoft, Amazon, Facebook, IBM и Apple («G-MAFIA»). В Китае это BAT: Baidu, Alibaba и Tencent.
G-MAFIA приступила к решению проблемы руководящих принципов через различные исследовательские группы. В Microsoft есть команда под названием FATE - за справедливость, подотчетность, прозрачность и этику в искусственном интеллекте. После скандала с Cambridge Analytica Facebook запустил группу по этике, которая занималась разработкой программного обеспечения, чтобы гарантировать, что ее ИИ. системы избегали предвзятости. (Примечательно, что Facebook не зашел так далеко, чтобы создать совет по этике, ориентированный на ИИ). DeepMind создал команду по этике и обществу. IBM регулярно публикует материалы об этике и искусственном интеллекте. После скандала в Baidu - поисковая система уделяла приоритетное внимание вводящим в заблуждение медицинским заявлениям из военной больницы, где лечение привело к смерти 21-летнего студента - генеральный директор Baidu Робин Ли признал, что сотрудники сделали идет на компромиссы ради роста доходов Baidu и обещает в будущем сосредоточиться на этике.
родители Лесли-Энн Брандт
Большая девятка выпускает исследования по этике и официальные документы, собирает экспертов для обсуждения этики и проводит дискуссионные форумы по этике, но эти усилия недостаточно связаны с повседневными операциями различных команд, работающих над ИИ.
Искусственный интеллект Большой Девятки системы все чаще обращаются к нашим реальным данным для создания продуктов, имеющих коммерческую ценность. Циклы разработки ускоряются, чтобы идти в ногу с ожиданиями инвесторов. Мы были готовы - пусть и невольно - участниками будущего, которое создается в спешке и без предварительного ответа на все эти вопросы. Как отмечает А. системы развиваются, и чем больше автоматизируется повседневная жизнь, тем меньше у нас контроля над решениями, которые принимаются в отношении нас и для нас.
Эми Уэбб появится на Inc. Founders House в Остине 11 марта.
