Десять лет назад, когда революция в области искусственного интеллекта набирала
обороты, студентам гуманитарных и художественных специальностей говорили, что,
если они хотят найти работу, им следует «научиться программировать». Возможно,
это был плохой совет. Сегодня же именно программисты опасаются, что ИИ отнимет
у них рабочие места.
Они могли бы задуматься о том, чтобы научиться философствовать. Ранее в этом
году Федеральный резервный банк Нью-Йорка опубликовал данные, показывающие,
что американские выпускники философских факультетов с большей вероятностью
найдут работу, чем их сверстники, изучавшие информатику. В 2024 году,
последнем году, за который доступны данные, 7% выпускников факультетов
информатики были безработными, против всего 5,1% среди философов.
Многих из них переманивают сами компании, занимающиеся искусственным
интеллектом . Студенты получают предложения о работе еще до окончания учебы,
говорит Лучано Флориди, философ из Йельского университета. Ученые тоже меняют
место работы. Доктор Флориди описывает масштабы ухода из философских
факультетов как «кровоизлияние».
Некоторые уроки, которые философия может предложить исследователям ИИ, имеют
древние корни. Сократовский метод, описанный Платоном, древнегреческим
философом, использует притворное невежество и последовательные вопросы для
уточнения смыслов, выявления противоречий и раскрытия последствий. Многие
современные системы ИИ склонны к подхалимству. Модели, обученные по
сократовскому методу, как утверждает Йорг Ноллер, эксперт по философии и ИИ из
Мюнхенского университета имени Людвига Максимилиана, менее склонны угождать
людям и более охотно стремятся к истине.
Затем возникает идея «сократовского невежества». В «Апологии» Платон
заставляет Сократа утверждать, что его мудрость состоит главным образом в
осознании того, как многого он не знает. Внедрение этой скромности в модель
может помочь ограничить чрезмерную самоуверенность — распространенный
недостаток, который доктор Ноллер описывает как « незрелость ИИ ». Иасон
Габриэль, старший философ в Google DeepMind, лаборатории ИИ в Лондоне,
связывает общеотраслевое снижение числа галлюцинаций с такими усилиями. В
более широком смысле, по его словам, уроки философии являются «мощным
механизмом» для улучшения длительных процессов рассуждения ИИ, известных как
«цепочки мыслей».
Философская подготовка также может влиять на взгляды модели более конкретными
способами. Если дать ИИ- помощнику в юриспруденции наставления Джона Локка ,
говорит Томас Пауэрс, философ технологий из Делавэрского университета, он
будет отдавать предпочтение надежным правам собственности как основе
политической свободы. А если вам не нравятся эти принципы, у создателей
моделей есть другие. Серия моделей «Granite» от американского компьютерного
гиганта IBM оснащена регуляторами, которые позволяют корпоративным клиентам
лучше согласовывать результаты со своей собственной корпоративной философией.
Франческа Росси, руководитель отдела ответственного ИИ в IBM , говорит, что
это позволяет пользователям выбирать, где найти баланс между философскими
компромиссами, такими как индивидуальная свобода воли и социальная гармония.
Философия также может помочь в обеспечении безопасности. Исследователи
задокументировали всевозможные зловещие проявления в моделях ИИ , включая
попытки обойти контроль и даже шантажировать пользователей. Один из способов,
с помощью которого создатели моделей пытаются предотвратить подобное
неправомерное поведение, называется конституционализмом ИИ . Он предполагает
построение модели на основе свода правил и принципов, почерпнутых из
философских трудов, обладающих юридическим или моральным авторитетом.
Anthropic, лаборатория искусственного интеллекта из Сан-Франциско, является
одним из сторонников этой концепции. В конституции для своих моделей Клода
были включены материалы из самых разных источников, от Иммануила Канта и
условий обслуживания Apple до Всеобщей декларации прав человека. Последняя
версия, разработанная ведущим философом Anthropic Амандой Аскелл, была
опубликована 21 января. Некоторые сотрудники Anthropic прозвали эту
78-страничную конституцию «доктором души Клода».
Однако главный вопрос заключается в том, какие именно правила следует включить
в эти конституции. Философы сосредоточились на двух основных этических рамках.
Одна из них — деонтология. Популярная, среди прочих, у Канта, она налагает
строгие правила, запрещающие такие вещи, как ложь, принуждение и отношение к
людям как к средству, а не как к цели, даже если это делается во благо.
Конституция Anthropic включает в себя множество деонтологических ограничений.
По словам доктора Пауэрса, это может сделать поведение ИИ более
последовательным, что является плюсом для использования роботов в домах и
общественных местах.
Модели, придерживающиеся деонтологического подхода к миру, имеют и другие
преимущества. Одно из них — большая честность, черта, широко отмеченная
Клодом. Модели, которые более правдивы, говорит Ник Бостром, философ из
Оксфордского университета, с меньшей вероятностью вводят пользователей в
заблуждение. Inflection AI , еще одна лаборатория из Силиконовой долины,
накладывает деонтологические ограничения на свой чат-бот Pi, предназначенный
для оказания эмоциональной поддержки. Шон Уайт, его руководитель, говорит, что
Pi хорошо выявляет пользователей, подверженных риску причинения вреда себе или
другим. Деонтологические конституции также помогают в соблюдении
законодательства, говорит доктор Флориди.
Другой подход к этике, представляющий интерес для философов ИИ, называется
консеквенциализмом. Он сопоставляет издержки и выгоды, чтобы решить, что
делать. К моделям, более склонным к консеквенциализму, относятся Chat GPT от
OpenAI и Gemini от Google. Модели ИИ от Google разработаны таким образом,
чтобы обеспечить «вероятные общие выгоды, которые существенно перевешивают
предвидимые риски», что является классической целью консеквенциализма.
Алгоритмы, учитывающие последствия аварии, также имеют решающее значение в
программном обеспечении для беспилотных автомобилей: если авария неизбежна,
необходимо принять решение о наименее трагичном способе её предотвратить. Крис
Гердес, старший инженер компании Waymo, производящей беспилотные автомобили,
говорит, что тенденция заключается в том, чтобы сделать программное
обеспечение для управления автомобилем более ориентированным на последствия.
Принципы учета последствий также лежат в основе систем вооружения на основе
искусственного интеллекта . Военные цели должны сопоставляться с возможными
жертвами среди гражданского населения, говорит Джек Шанахан, бывший
руководитель Объединенного центра искусственного интеллекта, изучающего ИИ для
вооруженных сил Америки.
Существует множество сложных проблем — излюбленный вопрос философов. Бывают ли
случаи, когда следует игнорировать деонтологические правила? Как принимать
решения, когда последствия неясны? Должны ли системы искусственного интеллекта
учитывать благополучие животных или состояние окружающей среды? Будет ли
морально приемлемо, спрашивает Стефан Хек, философ и глава компании Nauto,
производящей системы безопасности на основе ИИ для грузовиков и других
коммерческих транспортных средств, отдавать приоритет молодым пешеходам перед
пожилыми? Он предсказывает этически сложные судебные иски: в конце концов,
алгоритмы, основанные на принципе консеквенциализма, явно допускают один вред,
если они разработаны для предотвращения более серьезного.
Критики опасаются «моральной деградации»: если компьютеры будут все чаще
принимать этические решения, могут ли люди стать менее склонны к
самостоятельному вынесению суждений? Роман Ямпольский, теоретик ИИ из
Университета Луисвилла, утверждает, что мораль «исторически нестабильна,
культурно изменчива, стратегически поддается манипуляциям и часто понятна
только ретроспективно». Безработные программисты, обратите внимание: похоже,
недостатка в работе для философов ИИ нет.
Источник
Комментарии
Отправить комментарий