Wer KI nutzt, vergisst zudem schnell: Auch sie kann sich irren. Ein Beispiel sind Sprachmodelle, die halluzinieren. Sie stützen sich etwa auf Quellen, die sie frei erfunden haben. Im Alltag gilt es, das Risiko abzuwägen. Irrt sich eine Gesundheitsanwendung, die auf Basis bestimmter Symptome eine Diagnose stellt, kann dies ernsthafte Konsequenzen haben. Ordnet eine KI-basierte Foto-App hingegen das Foto einer Person dem falschen Kontakt zu, ist das weniger gravierend. Grundsätzlich wichtig ist jedoch, dass Nutzerinnen und Nutzer die Vorschläge der Anwendung kritisch hinterfragen.
Nicht zuletzt verwenden auch Kriminelle Künstliche Intelligenz – zum Beispiel um Betrugsmaschen zu verbessern. Mithilfe von KI ist es etwa leicht, E-Mails auch ohne Sprachkenntnisse zu verfassen. Darüber hinaus ermöglicht KI es, Videos zu manipulieren oder die Stimmen anderer am Telefon zu imitieren. So können sich Betrügerinnen und Betrüger zum Beispiel als enge Kontakte einer Person ausgeben, eine Notlage fingieren und um Geldzahlungen bitten. Wer Verdacht schöpft, sollte die jeweilige Person oder auch Institution auf anderem Weg kontaktieren – im Zweifelsfall analog.
Den „Wegweiser für den digitalen Alltag: Künstliche Intelligenz sicher nutzen“ mit allen elf Handlungsempfehlungen können Verbraucherinnen und Verbraucher sowie Multiplikatoren aus der Präventions- und Vermittlungsarbeit kostenlos auf der Webseite des BSI herunterladen oder als Printversion bestellen. In der 50. Folge des BSI-Podcasts „Update verfügbar“ blickt das Moderationsduo außerdem gemeinsam mit BSI-Mitarbeiterin Annika Rüll auf den Hype rund um KI und diskutiert: Wo steht KI heute?
Darüber hinaus finden Verbraucherinnen und Verbraucher auch auf der Webseite des BSI weiterführende Informationen rund um IT-Sicherheit und IT-Themen wie Künstliche Intelligenz.