KI-Systeme sind letztendlich Software. Und Software kann ausfallen, gehackt und kompromittiert werden oder fehlerhafte Ergebnisse liefern. Letzteres nennt man im Zusammenhang mit GPTs auch Halluzinationen. Sich zu 100% auf solche Systeme zu verlassen, kann zu großen Komplikationen führen. Bis hin zum wirtschaftlichen Totalausfall eines Unternehmens. Deshalb möchte ich auch für die Risiken und Gefahren von KI im Unternehmen sensibilisieren. Welche das speziell in Bezug auf Ihr Unternehmen sind, können wir gerne in einem persönlichen Gespräch erörtern. Kontaktieren Sie mich einfach.
Kein Mensch mehr da, der das Problem behebt …
Der menschliche Faktor ist entscheidend, wenn technische Systeme ausfallen. Wer aber übernimmt diese Rolle, wenn Arbeitskräfte durch KI-Systeme sehr großen Teilen oder sogar vollständig ersetzt wurden? Externe Dienstleiter kennen sich oft nicht mit den internen Strukturen aus oder sind schlichtweg überlastet.
Doch auch wenn Arbeitskräfte einfach nur von bestimmten Aufgaben entbunden wurden, weil KI sie vollautomatisch durchführen kann, führt dies zu sinkendem menschlichen Problemlösungspotenzial. Es gehen über längere Zeiträume schlichtweg die nötigen Kompetenzen verloren.
Aus diesen Gründen sollten Entscheidungen nur auf niedrigster Ebene automatisiert werden. Damit fachliche Fähigkeiten in der Belegschaft erhalten bleiben und Fehler schnell erkannt werden bzw. gar nicht erst als Output in das Unternehmenssystem kommen. KI-Dashboards bieten dafür die passende Plattform als Schnittstelle zwischen Mensch, Daten und KI.
KI kann gehackt werden
Man stelle sich vor: Ein Unternehmen verlässt sich auf automatisierte KI-Vorgänge und wird von außen gehackt. Ein Konkurrent, Kriminelle oder ein Geheimdienst übernimmt die Kontrolle über die KI. Daten fließen ab, der Output ist kompromittiert oder Prozesse werden verschlüsselt, um Erpressungsgelder zu erzwingen.
Kein IT-System ist absolut sicher. Die letzte „Verteidigungslinie“ sind Menschen. Haben diese keine Kontrolle mehr, weil KI den gesamten Entscheidungsprozess abdeckt, übernehmen andere unerwünscht die Kontrolle.
Technischer Ausfall
Wie jedes IT-System ist auch KI von Hardware und Energie abhängig. Ist eines von beidem gestört, fällt auch die KI aus. Und damit alle automatisierten Vorgänge im Produktions- oder Verwaltungsprozess. Auch hier können Menschen den Schaden abfedern – sofern sie noch als Arbeitskräfte vorhanden sind bzw. über die nötigen Kompetenzen verfügen.
Ausgangspunkte technischer Ausfälle können dabei sehr vielfältig sein. Naturkatastrophen (Stichwort Klimawandel), veraltete Hardware, Überlastung usw.
„Halluzinationen“ und andere Fehler
Je komplexer eine KI, desto höher ist die Wahrscheinlichkeit, dass sie Fehler macht. Insbesondere künstliche neuronale Netze wie GPTs neigen dazu, unsinnigen Output zu produzieren. Sie haben einen begrenzten Trainingsdatensatz und sind gleichzeitig darauf ausgelegt, in jedem Fall ein Ergebnis zu liefern. Um es plakativ und vermenschlicht zu sagen: höchste Motivation, selbst bei „absoluter“ Ahnungslosigkeit.
Vollautomatische Prozesse können also – gegebenenfalls unbemerkt – in einer Fehler-Schleife landen. Je nach Bedeutung dieses Prozesses kann dies hohen Schaden verursachen.
KI-Dashboards nehmen Arbeit ab, keine Entscheidungen
Es ist meiner Meinung nach wichtig, Entscheidungs- und Kontrollprozesse in menschlicher Hand zu belassen. Zumindest dann, wenn die oben genannten Risiken minimiert werden sollen. Vornehmlich neuralgische Punkte wie Cyber Security. Aber auch auf produktiven und kommunikativen Ebenen ( z.b. Führung oder Kundendienst) sollten Menschen das letzte Wort haben. Zu groß ist der potenzielle Schaden, als dass man ihn riskieren kann.
Unsere Zusammenarbeit
Sie benötigen einen KI-Manager, -Berater oder -Trainer? Gerne unterstütze ich Sie bei der Einführung von Künstlicher Intelligenz. Kontaktieren Sie mich einfach.