In den letzten Jahren hat sich die Technologie der künstlichen Intelligenz (KI) rasant weiterentwickelt und bietet Unternehmen große Chancen, birgt aber auch viele Risiken. Der Herausgeber von Downcodes hat einen Bericht darüber zusammengestellt, wie Unternehmen mit generativen KI-Risiken umgehen sollten. Der Bericht wies darauf hin, dass die meisten Unternehmen noch keine wirksamen Reaktionsstrategien für generative KI-Risiken formuliert haben, insbesondere im Hinblick auf Netzwerksicherheit, KI-gesteuerten Netzwerkbetrug usw Die Bedrohung wird immer ernster und verdient die Aufmerksamkeit der Unternehmen.
Die rasante Entwicklung der künstlichen Intelligenz (KI) hat in den letzten Jahren viele Chancen für Unternehmen mit sich gebracht, gleichzeitig sind jedoch auch die potenziellen Bedrohungen immer offensichtlicher geworden. Laut dem aktuellen „New Generation Risk Report“ aus dem Jahr 2024 zeigt die Umfrage, dass bis zu 80 % der befragten Unternehmen noch keinen speziellen Reaktionsplan für generative KI-Risiken formuliert haben, der Sicherheitsrisiken wie KI-gesteuerten Online-Betrug einschließt.
An der vom Risikomanagement-Softwareunternehmen Riskconnect durchgeführten Umfrage nahmen 218 globale Risiko-Compliance- und Resilienz-Experten teil. Die Ergebnisse zeigen, dass 24 % der Befragten glauben, dass KI-gesteuerte Cybersicherheitsbedrohungen (wie Ransomware, Phishing und Deepfakes) in den nächsten 12 Monaten erhebliche Auswirkungen auf Unternehmen haben werden. Mittlerweile gaben 72 % der Befragten an, dass Cybersicherheitsrisiken erhebliche oder schwerwiegende Auswirkungen auf ihre Unternehmen hätten, im Vergleich zu 47 % im letzten Jahr.
Da die Besorgnis über Themen wie KI-Ethik, Datenschutz und Sicherheit zunimmt, weist der Bericht darauf hin, dass die Besorgnis der Unternehmen über KI zwar zugenommen hat, sie es jedoch versäumt haben, Risikomanagementstrategien rechtzeitig weiterzuverfolgen, und es immer noch viele wichtige Lücken gibt . Beispielsweise verfügen 65 % der Unternehmen über keine Richtlinien für den Einsatz generativer KI durch Partner und Anbieter, obwohl Dritte ein häufiger Einstiegskanal für Cyber-Betrüger sind.
Auch interne Bedrohungen sind nicht zu unterschätzen. Am Beispiel des Einsatzes generativer KI durch Unternehmen zur Erstellung von Marketinginhalten erinnerte der Marketingexperte Anthony Miyazaki daran, dass generative KI zwar hervorragend zum Schreiben von Texten geeignet ist, der endgültige Text jedoch noch manuell bearbeitet werden muss, um seine Überzeugungskraft und Genauigkeit sicherzustellen. Darüber hinaus kann der Einsatz von KI bei der Generierung von Website-Inhalten auch negative Auswirkungen haben. Google hat beispielsweise deutlich gemacht, dass die Suchrankings sinken, wenn KI-Inhalte zur Manipulation des Suchprozesses eingesetzt werden zur Suchmaschinenoptimierung (SEO) von Unternehmen.
Um diesen Herausforderungen zu begegnen, müssen Unternehmen eine umfassende Abdeckung interner Richtlinien sicherstellen, sensible Daten schützen und relevante Vorschriften einhalten. John Skimoni, Chief Security Officer von Del Technology, sagte, dass sie vor dem Aufschwung der generativen KI relevante Grundsätze formuliert hätten, um sicherzustellen, dass die Entwicklung von KI-Anwendungen fair, transparent und verantwortungsvoll sei.
Bei der Agentur für digitales Marketing Empathy First Media betonte Vizepräsident Ryan Doser außerdem die strengen Maßnahmen, die das Unternehmen hinsichtlich der Nutzung von KI durch seine Mitarbeiter ergriffen hat, darunter das Verbot der Eingabe sensibler Kundendaten in generative KI-Tools und die Verpflichtung zur manuellen Überprüfung von KI-generierten Inhalten. Diese Maßnahmen sollen die Transparenz erhöhen und das Vertrauen der Kunden stärken.
Alles in allem müssen Unternehmen aktiv auf die Sicherheitsrisiken der generativen KI reagieren, umfassende Risikomanagementstrategien formulieren und die Mitarbeiterschulung stärken, um wettbewerbsfähig zu bleiben und die Unternehmenssicherheit im KI-Zeitalter zu gewährleisten. Der Herausgeber von Downcodes empfiehlt Unternehmen, die Anregungen im Bericht zu beachten und aktiv Maßnahmen zu ergreifen, um bereits im Entstehen begriffene Probleme zu verhindern.