Er ist das netzpolitische Aushängeschild des Chaos Communication Congress: der Gründer des Internetangebots Netzpolitik.org Markus Beckedahl. In seiner Rede vor zahlreichen Hackern und IT-Spezialisten forderte er eine bessere Kontrolle der Künstlichen Intelligenz. Das sei das Thema der nächsten drei bis vier Jahre. Algorithmen – also Computerprogramme – würden künftig anstatt von Menschen Entscheidungen treffen, beispielsweise in der Medizin, meint Beckedahl.
Stellen wir uns einmal vor: Herzkreislauferkrankungen. Wenn es möglich ist, datenbasierte Empfehlungssysteme zu entwickeln, welcher Patient sinnvollerweise eine bestimmte Therapie bekommt, stellen sich die Fragen: Auf welchen Daten werden die Algorithmen trainiert? Gen-Daten, Gesundheitsindikatoren, Social-Media-Daten, Bewegungdaten, Fitness-Apps? Wer kriegt denn dann eigentlich eine Operation zum Schluss – und wer nicht?
Es sei eine neue Dimension in der modernenTechnologie erreicht. Und damit müsse man anders umgehen, als bisher.
Gesundheitsalgorithmen muss man anders regulieren als Facebook-Algorithmen. Es geht um Geschäftsgeheimnisse. Die muss man auflockern können, damit man halt Unternehmen besser kontrollieren kann.
Um diese Veränderungen in den Griff zu bekommen, müsse sich der Staat flexibel zeigen und anpassen.
Wir brauchen vollkommen möglicherweise neue Kontrollinstitutionen, irgendwo zwischen Datenschutzbehörden und Kartellämtern.
Markus Beckedahl verwies aber auch auf positive Entwicklungen. So gebe es Durchbrüche im maschinellen Lernen oder neue Daten- und
Analysekapazitäten.