2. Основи штучного інтелекту

2.2. Моральна машина та проблема вагонетки. Лабораторна робота.

Проблема вагонетки – це класичний етичний експеримент, у якому людина повинна обрати між тим, щоб залишити вагонетку на її поточному шляху (де вона зіб’є п’ятьох людей), або перевести її на інший шлях, де постраждає одна людина.

Вагонетка

Сенс експерименту у тому, щоб змусити задуматися над моральними дилемами: що важливіше – кількість врятованих життів, їхня цінність чи дія/бездіяльність, яка до цього призвела. Це особливо актуально для розробки алгоритмів у сфері штучного інтелекту, які мають ухвалювати подібні рішення.

Лабораторна робота: Дослідження етичних аспектів ШІ за допомогою "Моральної машини"

Мета: Ознайомитися з етичними дилемами, які виникають при розробці автономних систем, і дослідити, як люди приймають рішення в ситуаціях морального вибору.

Moral Machine — це онлайн-платформа, розроблена дослідниками MIT у 2016 році для вивчення етичних рішень, які автономні транспортні засоби можуть приймати в критичних ситуаціях. Платформа пропонує серію моральних дилем, де авто має вибирати, наприклад, між жертвуванням пішоходами чи пасажирами, молодими чи старими людьми, або навіть між людьми й тваринами. Метою проекту було зібрати дані про те, як люди з різних культур реагують на такі ситуації, щоб допомогти сформувати етичні рамки для розвитку штучного інтелекту в автономних системах.

  1. Відкрити сайт https://moralmachine.net/
  2. Натиснути кнопку Start judging
  3. Приймати рішення у кожному сценарії, аргументуючи свої дії

Після завершення експерименту, провести обговорення на тему того які моральні принципи були використані при прийнятті рішень, та як ці рішення можуть бути інтегровані в алгоритми ШІ?