Teaching: Secure AI-Systems

6037 Vorlesung: Sicherheit von KI-Systemen / Security of AI-Systems (SoSe 21)

Lecturers/instructors

Course times

Mi. 10:00 - 12:00 (wöchentlich) k.A., Termine am Montag, 19.07.2021 10:00 - 12:00, Montag, 27.09.2021 12:00 - 14:00, Ort: (AM) HS 10

Course venue

(AM) HS 10

Start date

Mittwoch, 14.04.2021 10:00 - 12:00 Uhr

ECTS credits

Teaching contact hours per week

Description

Security of AI-systems examines how IT-Security goals (including Safety and Privacy aspects), like Integrity, Confidentiality, Reliability, and others can be defined and used for the design and operation of secure IT-systems that employ artificial intelligence technology (AI-systems). We will discuss different artificial intelligence methods (keywords: machine learning, symbolic vs. non-symbolic, neural-networks, deep-learning, unsupervised/supervised learning) to analyse which IT-Security problems could arise and where they originate from (keywords: training, training data, input-privacy, confidentiality of the algorithm or trained network, adversarial learning). For the problems identified the course will discuss potential solutions that increase the IT-Security of the AI-system itself; i.e. the security target of the course is the IT-system that employs artificial intelligence functions, not using artificial intelligence as a tool for solving security problems.

///

Sicherheit von KI-Systemen untersucht wie man IT-Sicherheitsziele (Integrität, Vertraulichkeit, Verlässlichkeit und weitere) für den Entwurf und den Betrieb von IT-Systemen mit Funktionen aus der künstlichen Intelligenz (KI) definiert, analysiert und sicherstellt. Hierbei wird jeweils auf die verschiedenen KI-Lösungsverfahren (Stichworte: machine learning, symbolic/non-symbolic, neural-networks, deep-learning, unsupervised/supervised learning) eingegangen, um dann methodisch zu analysieren welche IT-Sicherheitsziele und –probleme hierbei bestehen und woher sie stammen (Stichworte: training, training data, input-privacy, confidentiality of the algorithm or trained network, adversarial learning). Für die identifizierten
IT-Sicherheitsprobleme werden dann mögliche Lösungen diskutiert, welche die IT-Sicherheit des KI-Systems selbst erhöhen.

Home institution

Lehrstuhl für Informatik mit Schwerpunkt IT-Sicherheit

Involved Institutions

Juniorprofessur für Sicherheit in Informationssystemen

Credit transfers

Studienangebote in anderen Sprachen > Studienangebot in englischer Sprache

Fakultät für Informatik und Mathematik > Studiengänge > Master Informatik

Pre-requisites

Empfohlene Voraussetzungen / Recommended prerequisites VL Advanced IT-Security VL Privacy Enhancing Techniques VL Advanced Topics in Data Science VL Context Recognition Architectures

Mode of study

Due to the COVID-19 crisis the lecture will be "online", details will be announced via StudIP.

Indicative reading list

Wird vom Dozenten bekannt gegeben / announced during the lecture

Notes on credit transfers

M.Sc. Informatik PO 2013: Wahlmodul im Schwerpunkt IT-Security and Reliability / compulsory elective module with a focus on IT Security and Reliability Wahlmodul im Schwerpunkt Intelligente Technische Systeme / elective module with a focus on Intelligent Technical Systems PO 2016: Modulgruppe „IT-Security and Reliability” / focus “IT-Security and Reliability”

Additional information