Bundesamt für Sicherheit in der Informationstechnik: Künstliche Intelligenz im Alltag – was Verbraucher wissen sollten

Bundesamt für Sicherheit in der Informationstechnik: Künstliche Intelligenz im Alltag – was Verbraucher wissen sollten

#Bonn, 28. Januar 2025

Ob bei der Recherche mithilfe eines Sprachmodells oder beim Entsperren des Smartphones per Gesichtserkennung: Künstliche Intelligenz (KI) unterstützt viele Menschen im Alltag. Für #Verbraucher stellt das #Bundesamt für #Sicherheit in der #Informationstechnik (BSI) daher niedrigschwellige Informationen zu Sicherheitsrisiken und Schutzmaßnahmen bereit – unter anderem in einem »Wegweiser für den digitalen Alltag« und im #Podcast »Update verfügbar«.

KI Anwendungen erfassen große Datenmengen, auf die es mitunter auch #Cyberkriminelle abgesehen haben. Sie versuchen zum Beispiel, die Eingaben von #Nutzer auszulesen. Denkbar ist auch, dass Cyberkriminelle Anwendungen so manipulieren, dass sie nicht mehr oder anders als vorgesehen reagieren – beispielsweise gezielt nach sensiblen Daten fragen. Postadresse, Passwörter oder Kreditkarteninformationen sollten jedoch nicht in falsche Hände geraten und daher auch nicht unüberlegt zum Beispiel in Eingabefeldern von Sprachmodellen landen. Indem sie möglichst wenig über sich preisgeben, minimieren Nutzer im Ernstfall den Schaden.

Wer #KI nutzt, vergisst zudem schnell: Auch sie kann sich irren. Ein Beispiel sind Sprachmodelle, die halluzinieren. Sie stützen sich etwa auf Quellen, die sie frei erfunden haben. Im Alltag gilt es, das Risiko abzuwägen. Irrt sich eine Gesundheitsanwendung, die auf Basis bestimmter Symptome eine Diagnose stellt, kann dies ernsthafte Konsequenzen haben. Ordnet eine KI basierte #Foto #App hingegen das Foto einer Person dem falschen Kontakt zu, ist das weniger gravierend. Grundsätzlich wichtig ist jedoch, dass #Nutzer die Vorschläge der Anwendung kritisch hinterfragen.

Nicht zuletzt verwenden auch Kriminelle Künstliche Intelligenz – zum Beispiel um Betrugsmaschen zu verbessern. Mithilfe von KI ist es etwa leicht, E Mails auch ohne Sprachkenntnisse zu verfassen. Darüber hinaus ermöglicht KI es, Videos zu manipulieren oder die Stimmen anderer am Telefon zu imitieren. So können sich #Betrüger zum Beispiel als enge Kontakte einer Person ausgeben, eine Notlage fingieren und um Geldzahlungen bitten. Wer #Verdacht schöpft, sollte die jeweilige Person oder auch Institution auf anderem Weg kontaktieren – im Zweifelsfall analog.

Den »Wegweiser für den digitalen Alltag: Künstliche Intelligenz sicher nutzen« mit allen 11 Handlungsempfehlungen können Verbraucher sowie Multiplikatoren aus der Präventions und Vermittlungsarbeit kostenlos auf der Website des BSI herunterladen oder als Printversion bestellen. In der 50. Folge des BSI Podcasts »Update verfügbar« blickt das Moderationsduo außerdem gemeinsam mit BSI Mitarbeiterin Annika Rüll auf den Hype rund um KI und diskutiert: Wo steht KI heute?

Darüber hinaus finden Verbraucher auch auf der Website des BSI weiterführende Informationen rund um IT Sicherheit und IT Themen wie Künstliche Intelligenz.

Content bei Gütsel Online …