План на курса

Основни етични принципи в автономни системи

  • Определяне на автономията в AI агенти
  • Основни етични теории, приложени към поведението на машините
  • Гледища на заинтересованите страни и проектиране със значение за стойностите

Обществени рискове и критични ситуации

  • Автономни агенти в обществената безопасност, здравеопазването и отбраната
  • Човешко-компютърно сътрудничество и граници на доверието
  • Сценарии за непредвидени последици и увеличаване на риска

Юридическа и нормативна среда

  • Обзор на законодателството и тенденциите в политика за AI (EU AI Act, NIST, OECD)
  • Отговорност, отговорност и правно лице на AI агенти
  • Глобални инициативи за управление и пропуски

Объяснимост и прозрачност на решението

  • Проблеми с автономно решаване на задачи чрез черни кутии
  • Проектиране на агенти, които могат да бъдат обяснени и проверени
  • Инструменти и рамки за прозрачност (например, карточки на моделите, листи с данни)

Съгласуване, контрол и морална отговорност

  • Стратегии за съгласуване на AI за поведение на агенти
  • Парадигми за контрол с човек в процеса vs. човек над процеса
  • Споделена отговорност между дизайнерите, потребителите и институциите

Оценка и намаляване на етични рискове

  • Картиране на рисковете и анализ на критичните грешки в дизайна на агенти
  • Защитни механизми и изключващи прекизвачи
  • Проверка за предразсъдъци, дискриминация и справедливост

Дизайн на управлението и институционален надзор

  • Принципи на отговорно управление на AI
  • Модели за многостранен надзор и проверки
  • Проектиране на рамки за съответствие за автономни агенти

Резюме и следващи стъпки

Изисквания

  • Разбиране в системи за изкуствен интелект и основни принципи на машинно обучение
  • Знание за автономни агенти и техните приложения
  • Познания в етични и правни рамки в политиката за технологии

Целева аудитория

  • Етицисти на изкуствен интелект
  • Политици и регулатори
  • Продвинути практици и изследователи на изкуствен интелект
 14 часа

Брой участници


Цена за участник

Отзиви от потребители (1)

Предстоящи Курсове

Свързани Kатегории