Als Professorin für die Ethik der Informationstechnologie an der Uni Hamburg und Mitglied des Deutschen Ethikrats beobachtet die Philosophin Judith Simon die ethischen Standards der Künstlichen Intelligenz kritisch. "In vielen, fast allen Bereichen kann KI von großem Vorteil sein." Man müsse sich aber klar machen: "Es geht um Statistik. Es geht um Mustererkennung. Es geht darum, dass ich aus Daten etwas lerne, was mir zur Klassifikation, zu Vorhersagen dient."
Wenn jedoch im statistischen Material, auf das KI zurückgreift, althergebrachte Benachteiligungen etwa wegen des Geschlechts oder der Herkunft enthalten seien, würden diese von KI-Programmen unkontrolliert übernommen und vervielfältigt - in Wissenschaft und Wirtschaft, in Behörden und Medien. KI selbst habe weder moralische Standards noch ein Bewusstsein. Deshalb müsse der Mensch die entscheidende Instanz bleiben: "KI sollte zur Entscheidungsunterstützung und nicht zur Entscheidungsersetzung verwendet werden."
Im Gespräch mit Jürgen Deppe weist Judith Simon auf die Chancen, aber auch Gefahren beim Einsatz von Künstlicher Intelligenz hin und begrüßt, dass mit dem AI Act auf EU-Ebene im April ein gemeinsames, wenn auch ihrer Meinung nach verwässertes Gesetz zur Reglementierung von KI verabschiedet werden soll.