smartnuts … the world on the dissecting table

Copilot knows too much

C

Wenn man sich das eine oder andere Produktangebot der TechBros anschaut, fragt man sich, wer in solchen Firmen die stärkeren Halluzinogene einwirft – Produktentwicklung oder Marketing.

Ein schönes Beispiel ist da die Integration von “Copilot” in Office365: Anfänglich nur für Geschäftskunden verfügbar, ist dieses Killer-Feature der modernen Arbeitswelt nunmehr auch für Privatkunden zum Preis von 20$/Montat zum Office-Abo zubuchbar.

Während nunmehr in verschiedenen Foren noch die Sinnfrage der Integration von OpenAIs GBT-4 in die Office-Umgebung gestellt und nach sinnhaften Use Cases gesucht wird, erregen sich anderenorts Vertreter der Early Adopters über die unverschämte Preisgestaltung, denn eigentlich müsste das doch viel billiger zu haben sein.

Dann gibt es noch ein paar Zeitgenossen, die kritisch die Nutzung von Inhalts- und Telemetriedaten1 im Zuge des durch die KI geboosterten Workflows unter Word/Excel/… anmahnen. Aber ich vermute, hier wird die Rechtsabteilung von MS sicher gute Arbeit geleistet und den Nutzer mit entsprechenden AGBs ihr letztes Stück informationelle Selbstbestimmung entlockt haben.

Der eigentlich kritische Punkt dieses Produktangebots blieb IMHO jedoch unbeleuchtet: MS klinkt sich mit dem Colpiloten dort ein, wo menschliches Wissen in elektronsicher Form artikuliert und festgehalten wird. Seien es auch nur Excel-Fragmente einer Analyse eines Häuslebauers über Finanzierungsoptionen, welche mittels Makro aufgepeppt werden oder aber der mehr oder minder lustige Erguss der Freundinnen der Braut über deren bisherigens Singleleben anlässlich einer Heirat – all diese Bits und Bytes finden ihren Weg in das Data Warehouse, aus dem heraus OpenAI seine LLM-Modelle etc. trainiert.

Unverfälschter, humanoider Input – nicht perfekt aber eben auch nicht durch eine AI verfälscht. Vergesst Edelmetalle und kristallinen hochreinen Kohlenstoff, der als Klunker das menschliche Ego aufpeppt! Von Menschen generierte Daten, die möglichst viel von deren Persönlichkeit preisgeben – DAS ist das wahre Gold des Informationszeitalters.

Wenn alle im Netz verfügbaren Quellen durch Agenten abgegrast und in die Trainingsdaten der neuronalen Netze überführt wurden, die AI daraus “predicted” hat, die Vorhersagen als Output dann wiederum durch anderen Agenten erneut konsumiert und als Trainingsdatum aufbereitet wurden, dann und genau dann versteht man den tieferen Sinn des “shit in, shit out”-Modells. Spätestens dann nämlich wird man die Sinnhaftigkeit von AI im Allgemeinen und LLMs im Besonderen hinterfragen, wenn die AI sich langsam in Richtung des kognitiven Leistungsvermögen eines Einzellers zurückentwickelt.

Genau für diesen Fall ist es also wichtig, gewappnet zu sein und sich jetzt schon den uneingeschränkten Zugriff auf werthaltigen Input für die Flotte an neuronalen Netzen zu sichern. So wie sich die Blackrocks dieser Welt ihre Claims auf dem fruchtbaren Mutterboden in der Ukraine sichern oder Nestlé das Monopol auf Trinkwasser weltweit konsequent ausbaut, sichert sich Microsoft den Zugang zu Informationen, die man notwendigerweise benötigt, um von einem neuronalen Netz einen qualitativ angemessenen Output zu erlangen.

Insoweit ist die Integration des Datenstaubsaugers in Office365 mittel- und langfristig aus Produktentwicklungssicht nur konsequent. Den ultimativen balls of steel-Award der “da-geht-noch-was-BWLer” hat jedoch diejenige Person verdient, die an die Nutzung von Copilot auch noch das 20$ Pricetag geheftet hat. Bei so einer brillianten Geschäftsidee werden sogar die Esoterik-Scharlatane, die Glaskugelleser auf dem Jahrmarkt und die Snake Oil Dealer (die wahrscheinlich drei Türen weitere neben der Copilot-Produktentwicklungsabteilung sitzen) blass vor Neid.

  1. MS saugt pro Tag 65 Milliarden Signale von Geräten auf – Link: https://cwsisecurity.com/uncover-microsofts-digital-defence-report/ ↩︎

About the author

Michael Bunzel

Michael (Mike) Bunzel (aka maschasan) is a lawyer and engineer currently living in Germany. He has been working in the field of Cybersecurity and related laws and regulations for over 25 years now.

Mike took on various roles and functions in the context of Information Security, Cybersecurity, and SCADA/Shopfloor Security at a German car manufacturer in southern Germany for more than fifteen years now - currently in the R&D resort, with focus on E/E-systems in the context of automotive cybersecurity.

Mike has worked with global organizations across dozens of countries, cultures and languages, well-travelled in EMEIA, APAC and the Americas.

All articles in this blog do NOT reflect the opinion of his employer, but are all an expression of his personal view of things.

By Michael Bunzel
smartnuts … the world on the dissecting table

Get in touch

Tags