KI ist keineswegs umstritten. Eine der Gefahren besteht darin, dass KI-Systeme sich in der Zukunft verselbstständigen und unkontrolliert Schaden anrichten könnten. Damit genau dieses Szenario nicht eintrifft, wurde u. a. die neue KI-Verordnung geschaffen. Der EU-Rechtsrahmen verbietet KI-Systeme, die ein inakzeptabel hohes Risiko aufweisen. Dazu gehören Anwendungen, die dazu fähig sind, Menschen unterschwellig zu manipulieren und ihnen dadurch zu schaden.
Es gibt aber auch greifbare Risiken, die schon jetzt hinreichend erkennbar sind:
- Datenschutz: KI kann einerseits zwar Daten schützen, allerdings können persönliche Informationen auch in die falschen Hände geraten. Aufgrund der Datenschutz- und Sicherheitsbedenken empfehlen Experten, keine personenbezogenen Daten in KI-Modelle einzugeben.
- Betrug und Desinformation: Moderne Betrugsmaschen setzen gehäuft auf Deepfakes. Darunter sind Bilder und Videos zu verstehen, die durch KI-Technik manipuliert wurden und täuschend echt erscheinen. Kriminelle können beispielsweise die Stimme einer Person nachahmen, um ihr Opfer zur Überweisung größerer Geldsummen zu verleiten.
- Automatisierung: Während KI den Menschen im Beruf entlastet, könnte die Technik schon bald einige Arbeitskräfte ersetzen oder diese Berufszweige zumindest verändern.