i.am.ai AI Newsletter #15
20 Aug, 2021
3 Minuten
Remi Igbekele
German-speaking Data Scientists wanted! Join an amazing team in Karlsruhe or Remote. Apply here.
German-speaking Data Scientists wanted!
Join an amazing team in Karlsruhe or Remote. Apply here.

 WHATS IMPORTANT 

🍏 Apple führt Kindesmissbrauch Schutzsystem NeuralHash ein – das sofort demontiert wird

Apple hat angekündigt, künftig Hash-Werte für jedes Foto auf den Telefonen ihrer Nutzer zu berechnen und sie mit einer Datenbank zu vergleichen, die Hash-Werte von kinderpornographischen Inhalten enthält.

In den USA stellen Strafverfolgungsbehörden Hash Datenbanken für solche Inhalte (Child Sexual Abuse Material, kurz CSAM) zur Verfügung. Sogenannte Fingerprinting Methoden wie Microsofts PhotoDNA werden bereits heute von Unternehmen wie Facebook, Twitter und Adobe eingesetzt, um Übereinstimmungen mit CSAM Datenbanken und Inhalten auf ihren Plattformen zu erkennen. Diese Systeme lassen sich jedoch leicht durch geringfügige Bildmanipulationen austricksen, z.B. durch das Einfügen von Wasserzeichen in ein Bild.

Apples neues System verspricht hingegen, gegen solche Manipulationen immun zu sein. Das sogenannte "Perceptual Hashing " verwendet ein neuronales Netz, um den Inhalt eines Bildes anstelle der genauen Pixelwerte zu erkennen und zu hashen.

Apple verspricht, dass die Berechnung und der Abgleich von Bild-Hashes ausschließlich geräteintern erfolgen wird (Quelle: macrumors.com/2021/08/05/apple-new-child-safety-features/)

Apple verspricht, dass die Berechnung und der Abgleich von Bild-Hashes ausschließlich geräteintern erfolgen wird. Nur bei wiederholten Vorfällen werden die Bilder an einen menschlichen Prüfer weitergeleitet (und bei Bedarf an die Strafverfolgungsbehörden weitergeleitet).

Dennoch waren Clickbait-Schlagzeilen wie "Wird Apple bald alle meine iPhone-Fotos durchsuchen?" in den letzten Wochen an der Tagesordnung. Kritik kam nicht nur aus der Boulevardpresse, sondern auch aus der Tech-Community und der Politik:

Das geplante CSAM-Scanning sei der "größte Dammbruch für die Vertraulichkeit der Kommunikation, den wir seit der Erfindung des Internets erleben" – FDP Bundestagsabgeordneter in einem Brief an Tim Cook (Quelle: heise.de)

Zu allem Überfluss gelang einem Reddit-Nutzer u/AsuharietYgvar, das Reverse Engineering des neuronalen Netzes, das Apple zum Hashing von Bildern verwendet. Er erkannte die MobileNetV3-Architektur und veröffentlichte Code, um das komplette Modell zu extrahieren.

Unter Verwendung des exponierten Modells entdeckten andere natĂĽrliche Hash-Kollisionen, d.h., wenn zwei verschiedene Bilder denselben Hash-Wert ergeben. Sogar Bilder aus dem Computer Vision 101 Standard Datensatz ImageNet enthielten Bilder mit solchen natĂĽrlichen Hashkollisionen.

Schlimmer noch, Hash-Kollisionen konnten bald fabriziert werden. Für Menschen fast unbemerkbare Änderungen können dazu führen, dass zwei verschiedene Bilder denselben Hash-Wert erzeugen. Der Schweizer Forscher Yannic Kilcher veröffentlichte ein Tutorial ("How to Break Apple's NeuralHash"), das zeigt, wie Hash-Kollisionen künstlich erzeugt werden. Infolgedessen machen sich einige Nutzer Sorgen, dass scheinbar unauffällige Fotos auf ihren Handys sie in den Datenbanken der Strafverfolgungsbehörden landen könnten.

Dieses Foto eines Mädchens wurde künstlich so verändert, dass es denselben NeuralHash hat wie das Foto des Hundes (Quelle: blog.roboflow.com/nerualhash-collision/)

Apple hat auf die Kritik reagiert, indem es versprach, dass ein zweites, unabhängiges Hash-System auf der Server-Seite die Bilder überprüfen wird, bevor ein Mensch sie sieht oder die Strafverfolgungsbehörden kontaktiert werden.

Vorerst ist das CSAM-Scanning nur für Geräte in den Vereinigten Staaten vorgesehen. Es bleibt abzuwarten, ob Apple das System wie geplant mit iOS 15 aktiviert oder den inzwischen öffentlich diskutierten Datenschutzbedenken nachgibt und das Projekt einstellt.




 7 THINGS WE FOUND WORTH SHARING 


🎓 Bildung: "Godfather of AI" Yann LeCun hat gerade seinen NYU Deep Learning Spring 2021 Kurs abgeschlossen. Alle Vorlesungen sind jetzt online verfügbar. "Yann LeCun's NYU Deep Learning course is available online"


💻 Code & Tools: OpenAI Codex, das KI-System, das natürliche Sprache in Code übersetzt, ist jetzt über eine API in einer privaten Beta-Version verfügbar. Codex ist das System hinter GitHubs Copilot, über den wir bereits berichtet haben. Unternehmen und Entwickler können sich jetzt für die Warteliste für den frühen Zugang anmelden.


📄 Paper: In "Fabrication-Aware Reverse Engineering for Carpentry" zeigen Noeckel et al. (2021) wie KI Baupläne aus Bildern von gezimmerten Möbelstücken rekonstruieren kann. "Fabrication-Aware Reverse Engineering for Carpentry"


🗞 Branchennews: Auf dem gestrigen Tesla AI Day stellte der Autohersteller einen humanoiden "Tesla Bot" und den "D1" vor, einen vollständig selbst entwickelten Chip, der angeblich der schnellste Trainingscomputer für künstliche Intelligenzmodelle sein wird. Hier gibts die gesamte Veranstaltung zum Tesla AI Day zu sehen oder nur die Ankündigung des Tesla Bot hier an. "Elon Musk will den ersten Prototyp des Tesla Bot bis Ende nächsten Jahres fertig haben"


📅 Event: Das Entwicklungsprogramm der Vereinten Nationen (UNDP) veranstaltet das mehrmonatige "U&AI AI for SDGs Youth Bootcamp", um KI-Projekte zu entwickeln, die die Sustainable Development Goals fördern. Projektvorschläge können bis zum 31. August eingereicht werden. Sicherlich ein guter Wettbewerb, um das eigene Portfolio aufzupeppen.


📄 Paper: LiftPose3D von Gosztolai et al. wurde gerade in der renommierten Zeitschrift Nature veröffentlicht. Der auf Deep Learning basierende Ansatz kann zweidimensionale Bilder von Labortieren in dreidimensionale Posen umwandeln. Der Code ist auf GitHub frei verfügbar und lädt ein auf andere Bereiche angewandt zu werden.


📅 Event (online, 🇩🇪 Deutsch) 29. September, 14:00 – 16:00 Uhr: Kollege KI – Welche Kompetenzen brauchen Beschäftigte in der Arbeitswelt von morgen?
Das Fraunhofer-Institut für Arbeitswirtschaft und Organisation startet eine neue Webtalk-Reihe namens "KI.Impulse". In der ersten Ausgabe geht es um KI am Arbeitsplatz – Hier anmelden.



Zwei Minuten, um in AI auf dem Laufenden zu bleiben.



Wir verwenden Mailchimp als unsere Marketing-Plattform. Indem Sie auf "Abonnieren" klicken, bestätigen Sie, dass Ihre Daten zur Verarbeitung an Mailchimp übertragen werden. Erfahren Sie hier mehr über Mailchimp's Datenschutzbestimmungen.

NewsletterKI BeratungAutomatisierungEnterprise AIKĂĽnstliche Intelligenz

Weiterlesen