Für Unternehmen ist die generative künstliche Intelligenz sowohl vielversprechend als auch beängstigend. Zweifellos kann GenAI einen Wettbewerbsvorteil verschaffen, indem sie beispielsweise Abläufe beschleunigt. Aber diese sich schnell entwickelnde Technologie birgt auch neue Risiken für den Datenschutz, das geistige Eigentum oder eine solide Entscheidungsfindung.
Für Unternehmer, die mit GenAI auf sichere Weise experimentieren wollen, haben wir eine Sieben-Punkte-Checkliste zusammengestellt, um diese Risiken zu mindern.
1. WÄHLEN SIE IHR TOOL
Viele KI-Tools erfassen die Dateneingabe für ihre eigenen Machine Learning Prozesse. Vergewissern Sie sich, dass das von Ihnen gewählte Tool die Standards für Kundenvertraulichkeit und Informationssicherheit erfüllt. Das National Cyber Security Centre bietet einige Richtlinien für die sichere Entwicklung von KI-Systemen.
Nehmen Sie die Daten- und Cyber-Anforderungen in die Dienstleistungsvereinbarung auf und ziehen Sie vertragliche Schutzmaßnahmen in Betracht, wenn Ihr eigenes Dienstleistungsmodell auf den Output eines KI-Tools angewiesen ist.
2. GEHEN SIE MIT DER NÖTIGEN SORGFALT VOR
Prüfen Sie bei der Auswahl von Drittanbietern, die Zugang zu Ihren Daten und denen Ihrer Kunden haben, deren KI-Schutzmaßnahmen.
3. SPEZIFIZIEREN SIE IHRE DATEN
Führen Sie Buch darüber, welche Daten Sie haben, welche Qualität und welchen Wert sie haben und wo sie gespeichert sind. Sind Ihre Daten relevant und für Ihre Bedürfnisse geeignet? Sind sie zuverlässig? Benötigen Sie zusätzliche Quellen und wenn ja, welche? Sind die Daten in Silos gespeichert? Wurden sie beschädigt oder infiltriert?
Sie sollten eine detaillierte Datenstrategie in Ihren KI-Risikomanagementplan aufnehmen und eine Vielzahl von Quellen nutzen, um das Risiko von Verzerrungen zu mindern.
4. ÜBERPRÜFEN SIE IHRE RICHTLINIEN
Achten Sie bei der Aktualisierung Ihrer Richtlinien und Verfahren darauf, dass Rechenschaftspflicht und Governance im Vordergrund stehen. Nehmen Sie KI in Ihr Risikoregister auf.
Aktualisieren Sie Ihre Dokumentation zur zulässigen Nutzung, um festzulegen, welche KI-Tools auf welchen Geräten und für welche Zwecke verwendet werden dürfen.
Überprüfen Sie die Überwachungsprozesse und stellen Sie sicher, dass KI-gestützte Ergebnisse von einer Person auf risikobasierter Basis überprüft werden.
Testen Sie Ihre Datensicherheit regelmäßig und lassen Sie Schwachstellen von vertrauenswürdigen unabhängigen Agenturen bewerten.
Beziehen Sie den Missbrauch von KI in Ihre Disziplinarverfahren ein.
5. VERSTÖßE VERHINDERN
Nutzen Sie die Multi-Faktor-Authentifizierung (MFA) und digitale Zertifikate zur Sicherung der Kommunikation.
Richten Sie ausschließlich interne Kanäle für den Austausch von Dokumenten mit Kollegen ein.
Führen Sie für wichtige Vorgänge wie Überweisungen von hohem Wert ein Verfahren ein, bei dem der Vorgang über einen sicheren Kommunikationskanal überprüft werden muss, der nicht vom Antragsteller initiiert wird.
6. SCHULEN SIE IHRE MITARBEITER
Regelmäßige Schulungen sind für die Mitarbeiter unerlässlich, um Sicherheitsverletzungen zu verhindern.
Die Mitarbeiter müssen mit den KI-Tools, deren Einsatz das Unternehmen genehmigt hat, sowie mit den damit verbundenen Arbeitsabläufen, Prozessen und Risikokontrollen vertraut sein.
Sie sollten sich auch der weiteren Auswirkungen bewusst sein. Bei unsachgemäßem Einsatz kann KI zur Wiederholung von Fehlern und zur Verstärkung von Verzerrungen führen. Daher ist die Fähigkeit zur kritischen Bewertung von entscheidender Bedeutung, um Fehler, Halluzinationen oder Verzerrungen zu erkennen. Dies sollte zusätzlich zur Schulung in KI-Kenntnissen und Datenmanagement erfolgen.
Die Mitarbeiter sollten auch auf Innovationen wie Deep-Fakes achten und darauf, wie Kriminelle KI nutzen können, da dies Auswirkungen auf die Cybersicherheit hat.
7. VERSICHERUNG
Der Abschluss einer Cyber-Versicherungspolice hilft Unternehmen nicht nur, aufkommende Risiken zu übertragen. Sie erhalten damit auch Zugang zu einer Reihe damit verbundener Dienstleistungen und fachkundiger Beratung, um sich besser zu schützen und sich im Falle eines Vorfalls schneller zu erholen.
Durch Berücksichtigung dieser umsichtigen Schritte sollten sich Unternehmen sicher genug fühlen, um mit generativer KI zu experimentieren und die Innovationen einzuführen, die für sie und ihre Kunden richtig sind.
