BSI warnt vor Chatbot-Gefahren und Deepfake-Betrug

BSI warnt

KI-Risiken: Sicherer Umgang mit Chatbots und Deepfakes wichtig

Schnell den langen Text zusammenfassen oder die komplexe Gleichung lösen lassen: KI hilft Ihnen im Alltag, kann aber auch gegen Sie eingesetzt werden.

Von generierten Bildern, Videos und Audio-Inhalten bis hin zu Texten aus Sprachmodellen: Die Produkte von KI-Programmen begegnen uns inzwischen ständig im Alltag. Insbesondere wer per Chat mit KI kommuniziert, sollte dabei verschiedene Sicherheitsaspekte im Hinterkopf haben, rät das Bundesamt für Sicherheit in der Informationstechnik (BSI).

Zum einen sind die von KI-Programmen verarbeiteten großen Datenmengen natürlich interessant für den Anbieter selbst. Deshalb sollte man sich vor der Nutzung in den Datenschutzerklärungen und AGB des jeweiligen Unternehmens darüber informieren, welche Rechte sich der Hersteller eigentlich einräumt – insbesondere in Bezug auf persönliche und Nutzungsdaten.

Zum anderen rufen die Datenmengen Cyberkriminelle auf den Plan, warnt das BSI. Diese versuchten mitunter, Eingaben von Nutzern auszulesen oder Chats so zu manipulieren, dass man gezielt nach persönlichen oder sensiblen Daten wie Passwörtern oder Kreditkartendaten gefragt wird – oder dass etwa Links zu Phishing-Webseiten ausgegeben werden.

Zudem arbeitet KI nicht und schon gar nicht immer zuverlässig: Sprachmodelle sind erst einmal immer nur so gut, wie die Daten, mit denen sie trainiert wurden. Außerdem können sie zensiert werden, zufällig falsche Informationen ausgeben oder diese sogar erst generieren. Von KI erfundene, falsche Angaben nennt man Halluzinationen.

Gleichzeitig perfektionieren Kriminelle mit der Hilfe von KI auch ihre Betrugsmaschen: Sie lassen KI überzeugend formulierte E-Mails erstellen – zu allen möglichen Sachverhalten in allen möglichen Sprachen.

Und sie nutzen KI, um Videos zu manipulieren oder um aus Audioschnipseln täuschend echt wirkende Stimmen zu generieren (Deepfakes). Damit geben sie sich beispielsweise am Telefon als Verwandte oder andere enge Kontakte der Angerufenen aus, spielen etwa eine Notlage vor und bitten um Geld: der klassische Enkeltrick mit KI-Unterstützung also.

Zum Schutz vor Bedrohungen, die aus KI-Nutzung resultieren können, rät das BSI:

Das gilt insbesondere, etwa wenn die Kontaktaufnahme Schock-Charakter hat oder Sie unter Zeit- oder Zugzwang setzt. Im Zweifelsfall bei dem betreffenden Menschen oder der betreffenden Institution noch einmal direkt nachfragen, am besten per Telefon unter einer altbekannten Nummer.