WHATS IMPORTANT
🍏 Apple führt Kindesmissbrauch Schutzsystem NeuralHash ein – das sofort demontiert wird
Apple hat angekündigt, künftig Hash-Werte für jedes Foto auf den Telefonen ihrer Nutzer zu berechnen und sie mit einer Datenbank zu vergleichen, die Hash-Werte von kinderpornographischen Inhalten enthält.
In den USA stellen Strafverfolgungsbehörden Hash Datenbanken für solche Inhalte (Child Sexual Abuse Material, kurz CSAM) zur Verfügung. Sogenannte Fingerprinting Methoden wie Microsofts PhotoDNA werden bereits heute von Unternehmen wie Facebook, Twitter und Adobe eingesetzt, um Übereinstimmungen mit CSAM Datenbanken und Inhalten auf ihren Plattformen zu erkennen. Diese Systeme lassen sich jedoch leicht durch geringfügige Bildmanipulationen austricksen, z.B. durch das Einfügen von Wasserzeichen in ein Bild.
Apples neues System verspricht hingegen, gegen solche Manipulationen immun zu sein. Das sogenannte "Perceptual Hashing " verwendet ein neuronales Netz, um den Inhalt eines Bildes anstelle der genauen Pixelwerte zu erkennen und zu hashen.
Apple verspricht, dass die Berechnung und der Abgleich von Bild-Hashes ausschließlich geräteintern erfolgen wird. Nur bei wiederholten Vorfällen werden die Bilder an einen menschlichen Prüfer weitergeleitet (und bei Bedarf an die Strafverfolgungsbehörden weitergeleitet).
Dennoch waren Clickbait-Schlagzeilen wie "Wird Apple bald alle meine iPhone-Fotos durchsuchen?" in den letzten Wochen an der Tagesordnung. Kritik kam nicht nur aus der Boulevardpresse, sondern auch aus der Tech-Community und der Politik:
Das geplante CSAM-Scanning sei der "größte Dammbruch für die Vertraulichkeit der Kommunikation, den wir seit der Erfindung des Internets erleben" – FDP Bundestagsabgeordneter in einem Brief an Tim Cook (Quelle: heise.de)
Zu allem Überfluss gelang einem Reddit-Nutzer u/AsuharietYgvar, das Reverse Engineering des neuronalen Netzes, das Apple zum Hashing von Bildern verwendet. Er erkannte die MobileNetV3-Architektur und veröffentlichte Code, um das komplette Modell zu extrahieren.
Unter Verwendung des exponierten Modells entdeckten andere natürliche Hash-Kollisionen, d.h., wenn zwei verschiedene Bilder denselben Hash-Wert ergeben. Sogar Bilder aus dem Computer Vision 101 Standard Datensatz ImageNet enthielten Bilder mit solchen natürlichen Hashkollisionen.
Schlimmer noch, Hash-Kollisionen konnten bald fabriziert werden. Für Menschen fast unbemerkbare Änderungen können dazu führen, dass zwei verschiedene Bilder denselben Hash-Wert erzeugen. Der Schweizer Forscher Yannic Kilcher veröffentlichte ein Tutorial ("How to Break Apple's NeuralHash"), das zeigt, wie Hash-Kollisionen künstlich erzeugt werden. Infolgedessen machen sich einige Nutzer Sorgen, dass scheinbar unauffällige Fotos auf ihren Handys sie in den Datenbanken der Strafverfolgungsbehörden landen könnten.
Apple hat auf die Kritik reagiert, indem es versprach, dass ein zweites, unabhängiges Hash-System auf der Server-Seite die Bilder überprüfen wird, bevor ein Mensch sie sieht oder die Strafverfolgungsbehörden kontaktiert werden.
Vorerst ist das CSAM-Scanning nur für Geräte in den Vereinigten Staaten vorgesehen. Es bleibt abzuwarten, ob Apple das System wie geplant mit iOS 15 aktiviert oder den inzwischen öffentlich diskutierten Datenschutzbedenken nachgibt und das Projekt einstellt.
7 THINGS WE FOUND WORTH SHARING
🎓 Bildung: "Godfather of AI" Yann LeCun hat gerade seinen NYU Deep Learning Spring 2021 Kurs abgeschlossen. Alle Vorlesungen sind jetzt online verfügbar.
💻 Code & Tools: OpenAI Codex, das KI-System, das natürliche Sprache in Code übersetzt, ist jetzt über eine API in einer privaten Beta-Version verfügbar. Codex ist das System hinter GitHubs Copilot, über den wir bereits berichtet haben. Unternehmen und Entwickler können sich jetzt für die Warteliste für den frühen Zugang anmelden.
📄 Paper: In "Fabrication-Aware Reverse Engineering for Carpentry" zeigen Noeckel et al. (2021) wie KI Baupläne aus Bildern von gezimmerten Möbelstücken rekonstruieren kann.
🗞 Branchennews: Auf dem gestrigen Tesla AI Day stellte der Autohersteller einen humanoiden "Tesla Bot" und den "D1" vor, einen vollständig selbst entwickelten Chip, der angeblich der schnellste Trainingscomputer für künstliche Intelligenzmodelle sein wird. Hier gibts die gesamte Veranstaltung zum Tesla AI Day zu sehen oder nur die Ankündigung des Tesla Bot hier an.
📅 Event: Das Entwicklungsprogramm der Vereinten Nationen (UNDP) veranstaltet das mehrmonatige "U&AI AI for SDGs Youth Bootcamp", um KI-Projekte zu entwickeln, die die Sustainable Development Goals fördern. Projektvorschläge können bis zum 31. August eingereicht werden. Sicherlich ein guter Wettbewerb, um das eigene Portfolio aufzupeppen.
📄 Paper: LiftPose3D von Gosztolai et al. wurde gerade in der renommierten Zeitschrift Nature veröffentlicht. Der auf Deep Learning basierende Ansatz kann zweidimensionale Bilder von Labortieren in dreidimensionale Posen umwandeln. Der Code ist auf GitHub frei verfügbar und lädt ein auf andere Bereiche angewandt zu werden. 
📅 Event (online, 🇩🇪 Deutsch) 29. September, 14:00 – 16:00 Uhr: Kollege KI – Welche Kompetenzen brauchen Beschäftigte in der Arbeitswelt von morgen?
Das Fraunhofer-Institut für Arbeitswirtschaft und Organisation startet eine neue Webtalk-Reihe namens "KI.Impulse". In der ersten Ausgabe geht es um KI am Arbeitsplatz – Hier anmelden.
