KÜNSTLICHE INTELLIGENZ

Aufdeckung von Lücken in der Regierungsführung und Regulierung

Die rasante Verbreitung künstlicher Intelligenz deckt Schwächen in Governance- und Regulierungsrahmen auf, die die Rechte der Nutzer schützen und den Missbrauch personenbezogener Daten verhindern sollen. Experten warnen, dass KI eine strenge, sorgfältig abgestimmte Regulierung erfordert, die sich von den traditionellen Regeln der Informationstechnologie unterscheidet.

Professor Mpho Primus, Experte für intelligente Informationssysteme und künstliche Intelligenz, argumentiert, dass die KI-Governance über Risikochecklisten und Compliance-Checklisten hinausgehen muss. Stattdessen sollte sie technisches Verständnis, Kontextbewusstsein und ein Bekenntnis zur digitalen Würde integrieren.

„Ich sehe eine wachsende Kluft zwischen der Komplexität unserer Systeme und den Schutzmaßnahmen, die sie leiten sollen“, sagte sie. „Eine der größten Herausforderungen besteht darin, dass viele digitale und KI-Tools Menschen immer noch als Datenpunkte behandeln, ohne den sprachlichen, kulturellen und relationalen Kontext zu berücksichtigen, der ihrem Leben Bedeutung verleiht. Dies ist nicht nur ein Konstruktionsfehler, sondern ein strukturelles Problem, das sich auf die Leistung der Systeme in der realen Welt auswirkt.“

Als klares Beispiel nannte sie afrikanische Sprachtechnologien. Modelle, die weitgehend auf Daten aus Europa, Nordamerika oder Asien trainiert wurden, können oft den Tonfall, die Morphologie und die pragmatischen Nuancen afrikanischer Sprachen nicht erfassen. Das Ergebnis seien Fehlklassifizierungen, der Ausschluss von Dienstleistungen und die Verstärkung von Ungleichheiten, die mit Hilfe der Technologie eigentlich beseitigt werden sollten.

Primus fügte hinzu, dass ihre eigene Arbeit, die sich über die Entwicklung von Algorithmen, die Erstellung von Datensätzen und Governance-Rahmenbedingungen mit Bezug zum lokalen Kontext erstreckt, darauf abzielt, diese Lücke zu schließen, indem sichergestellt wird, dass KI-Systeme die Komplexität afrikanischer Sprachen und der Gemeinschaften, die sie sprechen, erkennen.

Benjamin Rossman, Professor an der Fakultät für Informatik und Mathematik der Universität Witwatersrand, sagte, dass die Bedenken hinsichtlich der KI darauf zurückzuführen sind, dass die Technologie im Laufe der Zeit immer leistungsfähiger und universeller wird.

„Dies hat mehrere Auswirkungen“, sagte er. „Aus datentechnischer Sicht bedeutet dies, dass wir viel anfälliger sind, wenn persönliche Informationen verloren gehen. So können beispielsweise schon wenige Sekunden Audioaufzeichnung ausreichen, damit einige Modelle Ihre Stimme klonen und sich betrügerisch als Sie ausgeben können.“

Er fügte hinzu, dass KI-Systeme die Nutzer auf subtile, aber bedeutende Weise beeinflussen. „Von Social-Media-Inhalten, die Stimmungen und Meinungen beeinflussen, bis hin zu großen Sprachmodellen, die Menschen angeblich zu Handlungen überreden, die sie sonst nicht tun würden, nimmt der Einfluss zu.“

Laut Rossman wird die Regulierung durch die Komplexität der Interaktionen zwischen Nutzern und KI-Systemen noch erschwert. „Jeden Tag entstehen neue Anwendungsfälle, und viele der inneren Abläufe dieser Systeme werden von Technologieunternehmen geheim gehalten. Das macht eine wirksame Regulierung extrem schwierig“, sagte er.

Professor Daniel Mashao, Experte für künstliche Intelligenz, menschliche Sprachtechnologien und Gesellschaft an der Universität Johannesburg, sagte, dass auch die Nutzer eine Rolle spielen müssen, indem sie wachsam bleiben und aktiv definieren, was akzeptabel ist.

„Wir sollten, wie Australien es getan hat, mit Maßnahmen wie Konten für Minderjährige experimentieren“, sagte er. „Wenn andere Länder diese Schritte übernehmen, könnten diejenigen, die dies nicht tun, sich im Nachteil befinden. Vorerst muss dies ein schrittweiser Prozess sein. Wir müssen ethische Rahmenbedingungen schaffen und bewerten, was gewonnen oder verloren wird.“

Australien hat kürzlich ein Verbot angekündigt, das Kindern unter 16 Jahren den Zugang zu Social-Media-Plattformen wie TikTok, X, Facebook, Instagram, YouTube, Snapchat und Threads untersagt. Nach den neuen Regeln können Minderjährige keine Konten mehr erstellen, und bestehende Konten werden deaktiviert. Andere Länder, darunter Dänemark und Malaysia, erwägen ebenfalls ähnliche Beschränkungen für Teenager.

Primus betonte, dass Daten zum Rückgrat des modernen Lebens geworden sind und beeinflussen, wie Menschen auf Dienste zugreifen, wie sie profiliert werden und wie sie an der Gesellschaft teilhaben. „Dies macht starke digitale Rechte, transparente KI-Systeme und kontextsensitive Datenverwaltung unverzichtbar“, sagte sie.

„Wenn wir wollen, dass KI den Menschen dient, anstatt ihre Handlungsfähigkeit oder Identität zu untergraben, müssen wir sie mit einem tiefen Verständnis dafür gestalten und regulieren, wie Menschen tatsächlich kommunizieren, leben und mit Institutionen interagieren.“