18. FSS Security Talk | Generative KI: Leistungsstarkes Produktionswerkzeug oder fundamentales Sicherheitsrisiko?, 26. August 2024
Beim 18. FSS Security Talk diskutierten sieben Expert:innen die Bedeutung von klassischer und generativer KI, die enormen Chancen, aber auch die grossen Risiken, der neuesten IT-Evolution. Mit der Veröffentlichung von ChatGTP Ende 2022 wurde nicht nur der Fachwelt, sondern auch einem grossen Teil der breiten Bevölkerung erstmals klar, welches disruptive Potenzial in dieser Technologie schlummert. Die Chefs der grossen Technologiekonzerne wie Microsoft, Google, Apple, Amazon etc. sind überzeugt, dass die Entwicklung von generativer KI ebenso grundlegend sei wie die Erfindung des Mobiltelefons, des Mikroprozessors, der Elektrizität oder gar des Feuers. Die generative künstliche Intelligenz kann nämlich erstmals nicht nur die „wahrscheinlichste“ Antwort vorhersagen, wie das klassische prognostische KI vor ihr tat, sondern tatsächlich „kreative“ Outputs generieren, was lange als typisches Alleinstellungsmerkmal des Menschen gehandelt wurde.
So können unter anderem Text-, Bild- und Audiodateien im Handumdrehen erstellt werden. Bei der Anwendung dieser neuartigen Technologie ergeben sich jedoch auch beträchtliche Risiken. Generative KI-Modelle können in bestimmten Fällen halluzinieren und dadurch sinnlose oder fehlerhafte Ausgaben erzeugen. Zudem besteht die Gefahr, dass sie von unlauteren Akteuren missbraucht werden, um Betrug zu begehen, die öffentliche Meinung zu manipulieren oder die Bevölkerung zu verunsichern. Je breiter diese Technologie sich etabliert, desto bedeutender wird das Vertrauen auf Seite des Benutzers. Dieses Vertrauen entsteht, wenn die Technologieunternehmen sichere und ethisch einwandfreie Produkte anbieten und zusätzlich eine sinnvolle Regulierung existiert.
Die Expert:innen des 18. FSS Security Talk waren sich entsprechend einig, dass in naher Zukunft zentrale ethische Fragen geklärt werden müssen. Dabei werden Themen wie Bias, Transparenz, Verantwortung und die potenziellen sozialen Auswirkungen im Fokus stehen. Gleichzeitig ist generative künstliche Intelligenz ein Tool, mit welchen die meschlichen Fähigkeiten erweitert oder verbessert werden können. Essenziell sei deshalb, die Bevölkerung entsprechen zu schulen. Einerseits müsse der Umgang mit den neuen Werkzeugen gelernt werden, sodass deren Potenzial möglichst gewinnbringend genutzt werden kann. Andererseits müsse das Bewusstsein geschaffen werden, für welche böswilligen Zwecke diese Technologie missbraucht werden kann. Die typisch menschliche Eigenschaft des kritischen Denkens wird dabei eine zentrale Rolle spielen.
Im Beisein von fast 100 interessierten Teilnehmern referierten und diskutierten renommierte Experten wie Katharina Fulterer (Partnerin Data & AI bei Eraneos), Stefan Preuss (Leiter Emerging Technologies Audit Abteilung bei die Mobiliar), Dr. Thomas Rothacher (Leiter Wissenschaft und Technologie bei armasuisse), Jennifer Victoria Scurrell (Doktorandin am Center for Security Studies), Patrick Fontana (Digital & App Innovation Specialist bei Microsoft), Dr. Peter Friedli (Partner Public Security bei Eraneos) und Lisa Kondratieva (Head of AI bei ti&m).
Das FORUM SICHERHEIT SCHWEIZ (FSS) blickt auf einen erfolgreichen Anlass zurück und bedankt sich bei allen Anwesenden für die Teilnahme.
Den ausführlichen Fazitbericht mit den spannenden Erkenntnissen aus den Inputreferaten und der Paneldiskussion finden Sie hier.
Das Programm zum Talk und die Panelisten finden Sie hier.
Fotogalerie: