Archiv der Kategorie: Queryology

xAi / Grok

Elon Musk hat nun die Veröffentlichung des Chatbots „Grok“ angekündigt und es scheint tatsächlich so schlimm zu werden, wie ich es mir dachte. In meiner Studie zu Large Language Models hatte ich in einem extra angehängten Epilog genau dieses Szenario antizipiert. Aus aktuellem Anlass veröffentliche ich diesen Abschnitt nochmal gesondert. Epilog Die öffentliche Debatte um Künstliche Intelligenz geht sehr häufig um spekulative Szenarien rund um AGI, Superintelligenzen und die Frage, ob diese uns nun retten oder ausrotten werden. Doch LLMs müssen nicht superintelligent sein – eigentlich müssen sie überhaupt nicht in einem menschlichen Sinne intelligent sein –, um einen enormen Einfluss auf alle Aspekte unserer Welt zu haben. Wenn eine Technologie so tief in unser kollektives Betriebssystem – die Sprache – implementiert wird, sind die Effekte vorhersehbar groß und unvorhersehbar vielfältig. Paul Virilio hat einmal gesagt, dass jede Technologie ihren eigenen Unfall produziert (Virilio/Lotringer 1983, S. 35 f.). Zwei Dinge sind dabei zu ergänzen: Ein Unfall ist nur dann ein Unfall, wenn er nicht vorhergesehen wurde. Und die Gefährlichkeit des Unfalls ist proportional zur Mächtigkeit des verunfallenden Systems. Denken wir an Social Media. Die Euphorie aus den Anfangstagen war im Nu verflogen, als wir feststellten, dass Plattformen als politische Waffen … Weiterlesen

Veröffentlicht unter Algorithmenkritik Demokratische Wahrheit Digital Tribalism extern Kontrollverlust Plattformpolitik Queryology Weltkontrollverlust
Verschlagwortet mit
Hinterlasse einen Kommentar

Was sind Large Language Models und wie funktionieren sie?

Large Language Models (LLMs) sind in aller Munde, aber kaum jemand versteht, wie sie funktionieren. Es gibt einige ganz gute Explainer in englischer Sprache, aber keine wirklich guten in Deutsch (jedenfalls ist mir keiner untergekommen). Dies ist ein Auszug aus der Literaturstudie: „Künstliche Intelligenz, Large Language Models, ChatGPT und die Arbeitswelt der Zukunft“, die ich für die Hans-Böckler-Stiftung erstellt habe. Ich habe den Erklärteil zu LLMs herausgelöst, um ein breiteres Verständnis für die Technologie zugänglicher zu machen. Begriffe zur Einführung Künstliche Intelligenz (KI) ist ein Feld der Informatik, das fast so alt ist wie die Informatik selbst. In der KI geht es darum, Computer dazu zu bringen, auf bestimmte Arten zu agieren, die von Menschen als intelligent empfunden werden. Das schließt unter anderem die Lösung von komplexen Problemen, das selbstständige Lernen von neuen Fähigkeiten und auch die Beherrschung der menschlichen Sprache mit ein. Künstliche Neuronale Netzwerke (KNN) sind die derzeit meistverwendete Technologie im Feld der KI. KNN bestehen aus künstlichen Neuronen und sind von den neuronalen Netzwerken im Gehirn von Menschen und Tieren inspiriert. KNN werden in einem Prozess namens „Deep Learning“ oder auch „maschinelles Lernen“ mit großen Datenmengen trainiert und erlangen dadurch Fähigkeiten, die schwer wären, durch normale Programmierung … Weiterlesen

Veröffentlicht unter Algorithmenkritik extern Kontrollverlust Plattformpolitik Queryology
Verschlagwortet mit
6 Kommentare

Derrida und ChatGPT – Ein philosophischer Dialog über Sprache und Denken

Ich lese gerade viel zu LLMs und dem ganzen KI-Kram und ich bin hin- und hergerissen zwischen: „oh Gott ist das spannend, das wird alles ändern!“ und „ich will nur noch in Rente gehen!“ Je mehr ich mich mit der Funktionsweise der Sprachmodelle beschäftige, desto stärker fühle ich mich in die Zeit meiner Beschäftigung mit dem Poststrukturalismus, insbesondere mit Derrida, zurückgeworfen. Mir scheint, dass das „Denken“ der KI, gerade weil es nur statistische Auswertung von Texten ist, die Intertextualitätsthese des Poststrukturalismus gewissermaßen beweist. Während ich also so vor mich hinräsoniere, ob das wirklich der Fall sein kann, ist mir eingefallen, dass ich ja mal jemanden fragen kann, der sich damit auskennt: ChatGPT! Ich fand die Konversation angregend, obwohl man stellenweise merkt, wie erstens das Modell sehr affirmativ angelegt ist (es versucht im erstens Schritt mir immer recht zu geben), zweitens, dass die Reasoningfähigkeiten jedoch noch recht begrenzt und oberflächlich sind (zu einem Großteil versucht es nur meine Aussagen umzuformulieren) und drittens Guardrails (meine Vermutung) dafür sorgen, dass das Programm nicht allzu bolde Claims über seine eigenen Fähigkeiten macht (Bezüge auf eigene Denkfähigkeiten werden routiniert relativiert). Und doch ist unzweifelhaft zu erkennen, dass hier auch Verstehen passiert. Nachvollzug von Gedanken, Text- … Weiterlesen

Veröffentlicht unter Algorithmenkritik Das Neue Spiel Kontrollverlust Queryology reloaded
Verschlagwortet mit
2 Kommentare

Warum die Festlegung auf die dezentrale Variante der Corona-Warn-App ein Fehler war

Nächste Woche soll die Corona-Warn-App herauskommen. Es gab die letzten Wochen viele Diskussionen über technische Hintergründe, vermeintlichen Gefahren für die Privatsphäre und den Sinn und Unsinn dieser App. Ich habe mich lange Zeit eher auf der Befürworterseite der App wiedergefunden. Nun sind aber Erkenntnisse über das Virus bekannt geworden, die die ganzen Dikussionen in einem neuen Licht erscheinen lassen. Ich bin mittlerweile überzeugt, dass insbesondere das Beharren auf dem dezentralen Ansatz ein entscheidender Fehler war, der das ganze Unterfangen jetzt nahezu sinnlos gemacht hat. Aber von vorn. Kontaktverfolgung Contact Tracing – oder Kontaktverfolgung – ist grundsätzlich erstmal eine sehr sinnvolle und effektive Maßnahme zur Pandemiebekämpfung. Dabei wird die Kontakthistorie von erkrankten Menschen erfragt und diese Kontakte werden dann ihrerseits gebeten sich zu isolieren. Es geht darum, Infektionsketten zu durchbrechen, also dafür zu sorgen, dass Leute, die in Gefahr sind, sich angesteckt zu haben, ihrerseits niemanden mehr anstecken. Gerade bei Covid19, bei dem Ansteckungen oft symptomfrei passieren, ist ein solches Vorgehen besonders wichtig. In der Praxis geschieht das erstmal manuell, mit speziell geschultem Personal. Sie interviewen die kranke Person und sie telefonieren hinter den Kontakten hinterher. Diese Praxis hat mehrere Probleme: 1. Sie ist sehr personalaufwändig, die Gesundheitsämter mussten dafür bereits … Weiterlesen

Veröffentlicht unter Algorithmenkritik Postprivacy Queryology
23 Kommentare

WasWäreWenn-Mag: Gestapelte Demokratie

/***** Für das WasWäreWenn-Magazin habe ich mich mal wieder in konstruktiven Vorschlägen geübt und eine Idee unterbreitet, wie man Plattformen sinnvoll demokratisieren kann. Das ist schwerer als zu kritisieren und auch undankbarer, denn man macht sich angreifbar. Aber nach so vielen Jahren, in denen ich Demokratsierungsversuche von Plattformen kommen und gehen habe sehen, weiß ich zumindest, wo einige der Fallstricke liegen. Das Thema ist kompliziert und verlangt nach einer komplexen Lösung und ich habe zumindest eine Möglichkeit gefunden, bei der ich gerade keinen Grund finde, warum sie scheitern sollte. Was natürlich nicht bedeutet, dass sie nicht scheitern würde, denn noch hat sie niemand ausprobiert. Kritik ist sehr willkommen. ****/ Es ist eine Hass­lie­be, die die Gesell­schaft mit den Platt­for­men wie Face­book und You­tubepflegt. Auf der einen Sei­te geben sie vie­len Men­schen das ers­te Mal eine Stim­me, mit der sie sich in der Öffent­lich­keit arti­ku­lie­ren kön­nen, oft sogar poli­tisch (es gab zumin­dest mal eine Zeit, als das als etwas Gutes galt). Auf der ande­ren Sei­te han­delt es sich um Wirt­schafts­un­ter­neh­men, die jeden Cent aus unse­rer Auf­merk­sam­keit und unse­ren per­sön­li­chen Daten pres­sen wol­len. Zudem ähneln die­se Orte weni­ger öffent­li­chen Plät­zen, als viel­mehr pri­va­ten Ein­kaufs­zen­tren, in denen man nur wenig bis kei­ne Rech­te und Mit­be­stim­mungs­mög­lich­kei­ten hat. Es … Weiterlesen

Veröffentlicht unter Das Neue Spiel extern Plattformpolitik Queryology
1 Kommentar

Cambridge Analytica, the Kontrollverlust and the Post-Privacy Approach to Data-Regulation

There is a heated debate going on about Facebook and privacy since the revelations about Cambridge Analytica surfaced. The reaction is a cry for more privacy regulation. The European approach of the General Data Protection Regulation (GDPR), which will come into effect by late May this year, is seen by many as a role model for a much needed privacy regulation in the US. But they are wrong. I feel that there are a lot of misconceptions about the effectiveness of data protection in general. This is not surprising since there are few similar rules in the US and so the debate is based more on projections than on actual experiences. I want to add the perspective of someone who has lived long enough within a strict privacy regime in Germany to know the pitfalls of this approach. From this angle I want to reflect the Cambridge Analytica case regarding of how effective EU style privacy regulation would have been to prevent this event from happening. Jürgen Geuter has already published a very readworthy and detailed critic of the GDPR, but my angle will be more conceptual and theory driven. I will apply the theory of ‘Kontrollverlust’ to this case … Weiterlesen

Veröffentlicht unter Algorithmenkritik Das Neue Spiel english Kontrollverlust Plattformpolitik Postprivacy Queryology
2 Kommentare

Das Regime der demokratischen Wahrheit IV – It’s the Culture, Stupid

Zurück zum Regime der demokratischen Wahrheit und der Frage: wie kann jemand, der offensichtlich lügt, einfach so damit davonkommen (Teil I)? Wir haben festgestellt, dass die neue Pluralität der Medien vielleicht auch ihre Schattenseiten hat (Teil II) und dass Trump schon während des Wahlkampfes eine gewisse Antifragilität (Teil III) gegen alle möglichen Skandale entwickelt hat und begonnen, diese Antifragilität zu analysieren. Es ist diese Antifragilität, die nicht nur ihn, sondern auch seine Lügen schützt. Es scheint fast so, als würden die Menschen gar nicht merken, dass er lügt, als ob die Fakten viele Leute überhaupt nicht mehr erreichen. Trump-Anhänger/innen scheinen immun zu sein gegen Fakten, immun gegen die Wahrheit. Wir wollen an dieser Stelle aber alle Thesen verwerfen, die mit dem Bildungsgrad oder der Intelligenz der Trump-Supporter/innen argumentieren. Diese Immunität ist keine natürliche, sie ist eine hergestellte. Eine populäre Erklärung dieser Immunität ist die vielzitierte Filterblase. Eli Pariser hat 2011 die Welt davor gewarnt, dass unser Social Media-Konsum dazu führt, dass wir die Welt nur noch personalisiert wahrnehmen. Filter, die vor allem aus unseren Freunden und Followings bei Facebook und Twitter bestehen, aber auch aus den Algorithmen der Plattformen, selektieren unsere Nachrichten vor und vermitteln uns so ein verzerrtes oder … Weiterlesen

Veröffentlicht unter Demokratische Wahrheit Kontrollverlust Queryology Weltkontrollverlust
2 Kommentare

Das Regime der demokratischen Wahrheit (Teil II) – Die Deregulierung des Wahrheitsmarktes

Im ersten Teil dieser Reihe haben wir uns mit den spezifischen Lügen der Trump-Regierung beschäftigt und sie gegen die herkömmliche politische Lüge einerseits und die machtvolle, diktierte Wahrheit in autokratischen Systemen andererseits abgegrenzt. Und wir haben uns entschlossen, die spezifische Weise des Lügens der Trump-Regierung “demokratische Wahrheit” zu nennen. Es wird Zeit, diesen Begriff etwas genauer zu fassen. “Demokratie” war schon immer ein umstrittener Begriff – ein politischer Kampfbegriff – aber dabei immer positiv konnotiert. Jeder will Demokrat sein. Selbst die autoritärsten Systeme nannten sich mit Freude Demokratie. In seiner banalsten Deutung übersetzt man Demokratie schlicht mit Volksherrschaft und insofern man als Herrscher plausibel machen kann, dass das Volk schon auf der eigenen Seite ist, fällt es nicht schwer die Grenze zwischen Autokratie und Demokratie zu verwischen. Wir verwenden also den Begriff in „demokratische Wahrheit“ nicht ohne einen augenzwinkernden Verweis auf diese Begriffsgeschichte. Aber wesentlicher noch ist, dass Trumps Wahrheitsverständnis tatsächlich die Funktionsweise von Demokratie zugrunde zu liegen scheint. Als Donald Trump von Bill O’Reilly auf Fox News gefragt wurde, warum er – ohne irgendwelche Hinweise darauf zu haben – an der These festhalte, dass es zu Wahlbetrug zugunsten Hillary Clintons gekommen sei, weist er darauf hin, dass es doch … Weiterlesen

Veröffentlicht unter Das Neue Spiel Demokratische Wahrheit Kontrollverlust Queryology Weltkontrollverlust
14 Kommentare

Drei Missverständnisse bei der Debatte um Big Data im Wahlkampf

Vor allem nach der Trumpwahl wurde wieder viel über Big Data gesprochen und was die Auswirkungen auf den politischen Prozess sein kann. Und ich muss sagen, dass mich der Diskurs darum wahnsinnig nervt – nicht weil ich ihn für unwichtig halte – sondern weil er so falsch geführt wird. Das betrifft sogar Formate und Personen, die ich eigentlich sehr schätze. Der Anlass dieses Artikels ist deswegen die aktuelle Folge der „Lage der Nation„. Ulf und Philip sind aber nicht die einzigen, die die Denkfehler bezüglich Big Data machen, es ist aber so, dass ich mich immer dann besonders ärgere, wenn intelligente Menschen falsche Dinge sagen. Deswegen hier drei Denkfehler (sicher nicht die einzigen), die regelmäßig auftauchen, wenn es um Fragen von Big Data geht. 1) Es geht nicht um Vorhersage individueller Handlungen oder Eigenschaften Was man immer wieder hört, ist ein Satz wie: „… und anhand dieser Daten können die dann bestimmen, dass du Eigenschaft X hast, oder dich so und so verhalten wirst.“ Das ist schlicht falsch. Big Data und andere statistische Verfahren können nicht anhand von sachfremden Daten dein tatsächliches Verhalten oder irgendwelche Eigenschaften herauslesen. Was sie tun können ist, Wahrscheinlichkeiten zu bestimmen. Am konkreten Beispiel: Big Data … Weiterlesen

Veröffentlicht unter Algorithmenkritik Das Neue Spiel Kontrollverlust Queryology
9 Kommentare

Game of Things

/******* Im Sommer fragte mich der großartige Christoph Engemann, ob ich nicht die schönsten Tage im Jahr damit zubringen wolle, einen ellenlangen Text für einen Reader zum Internet of Things zu verfassen. Da man zu Christoph Engemann nie nein sagt, habe ich natürlich zugesagt. Das Buch: „Internet der Dinge – Über smarte Objekte, intelligente Umgebungen und die technische Durchdringung der Welt“ (Werbelink) ist jetzt raus und sehr empfehlenswert. Es finden sich unter anderem Texte von Mercedes Bunz, Linus Neumann und Sebastian Gießmann darin. Mein Text versucht anhand von „Game of Thrones“ die wirtschaftswissenschaftlichen Grundlagen des Internet of Things zu erklären. Und weil Linus das auch gemacht hat, stell ich hier auch mal meinen Text zur Verfügung. Quasi als Werbung für das Buch. ********/ Vorrede Mit Friedrich Kittler hielt eine Neuerung innerhalb der Geisteswissenschaften Einzug, die wohl sein wichtigstes Vermächtnis bleibt: Das Interesse und die deutliche Einbeziehung von technischem Sachverstand in eine Disziplin, die bislang mit ihrer Technikferne und ihrer abstinenten und kritischen Haltung gegenüber technischen Neuerungen geradezu kokettierte. Dies war ein wichtiger Schritt, der die Medienwissenschaften in der Tiefe, wie sie heute praktiziert wird, erst ermöglichte. Natürlich würde heute niemand mehr abstreiten, dass technisches Design sowie die Möglichkeiten und Unmöglichkeiten … Weiterlesen

Veröffentlicht unter extern Kontrollverlust Plattformpolitik Queryology
Verschlagwortet mit
2 Kommentare