Axon, der Auftragnehmer für die öffentliche Sicherheit das den Taser populär machte, hat ein neues Produkt auf den Markt gebracht, das weniger aktiv Angst macht, aber dennoch ein wenig Besorgnis erregt: ein KI-gestütztes Softwareprogramm, mit dem Polizisten ihre Polizeiberichte automatisieren können.
Axon nennt sein neues Produkt Entwurf Eins. Laut einer am Dienstag veröffentlichten Pressemitteilung ist Draft One ein „revolutionäres neues Softwareprodukt, das hochwertige Polizeiberichte in Sekunden erstellt.“ Die Software basiert auf dem leistungsfähigen Large Language Model GPT-4 und kann Berichte verfassen, indem sie Audiodaten automatisch transkribiert aus die von Axon verkauften Bodycams für die Polizei. Forbes war der Erster Bericht zur Einführung des neuen Produkts.
Axon bewirbt seine neue Software als Möglichkeit zur Entlastung der Arbeit im Polizeibüro so wie einer Möglichkeit zu entlasten, damit die Polizisten mehr Zeit in ihren Gemeinden verbringen können. In seiner Pressemitteilung stellt das Unternehmen die Vorteile seiner Technologie wie folgend dar:
Polizeidienststellen in den gesamten USA sind unterbesetzt. Während die Behörden Wert auf die Einstellung und Bindung von Personal legen, ist die Nachfrage nach der Besetzung offener Stellen gering. Der Mangel führt zu längeren Reaktionszeiten bei Notrufen und zu Überstunden der Beamten, was zu Burnout führen und den Steuerzahler teuer zu stehen kommen kann. Letztlich hat Draft One das Potenzial, die Fähigkeiten der Beamten zu erweitern und zu verstärken, sodass sie mehr Zeit haben, sich besser für ihre Gemeinden einzusetzen.
Einige Kritiker haben schnell bemerkt dass dieses Produkt, das zur Lösung von Problemen für die Polizei entwickelt wurde, auch für alle anderen eine Vielzahl von Problemen verursachen könnte. Der Artikel von Forbes zitiert Dave Maass, Ermittlungsdirektor für Überwachungstechnologien bei der Electronic Frontier Foundation, der das neue Produkt „eine Art eine neue Technologie “nannte. Albtraum.“ Maass wies darauf hin, dass die meisten Polizisten nicht im Umgang mit KI geschult seien und daher möglicherweise nicht daran gewöhnt seien, deren Schwächen zu erkennen. Daniel Linskey, ein ehemaliger Superintendent-in-Chief des Boston Police Department, der ebenfalls von dem Nachrichtensender interviewt wurde, mahnte ebenfalls zur Vorsicht beim Einsatz der Technologie.
Problematisch ist, dass KI „halluzinieren“— das heißt, sich Unsinn auszudenken. Gleichzeitig scheint es möglich, dass die Polizei – in bestimmten Fällen – die Software dazu nutzen könnte, sich ihrer rechtlichen Verantwortung zu entziehen. Das heißt, wenn in einem Polizeibericht etwas Fragwürdiges auftaucht und der Bericht mit der neuen Software von Axon „geschrieben“ wurde, Es erscheint plausibel, dass Polizisten der Software fälschlich die Schuld für Fehler oder Ungenauigkeiten geben könnten, die tatsächlich von einem Menschen eingefügt wurden – und so g Zweifel aufkommen lassen. Daher wäre für den Einsatz dieser Technologie strenge regulatorische Richtlinien erforderlich, um zu gewährleisten, dass sie von der Polizei nicht missbraucht wird.
Axon behauptet in seiner Pressemitteilung, dass in Draft One „eine Reihe wichtiger Sicherheitsvorkehrungen“ eingeführt wurde und „jeder [von der Software generierte Bericht] von einem menschlichen Beamten geprüft und genehmigt werden muss, um die Genauigkeit und Verantwortlichkeit der Informationen sicherzustellen bevor die Berichte eingereicht werden.“ Ob diese Zusicherungen sicher sind oder wohl tun, hängt wahrscheinlich davon ab, wie viel Vertrauen Sie darin haben, dass die Polizisten ihre Arbeit korrekt erledigen. Bei einigen Mitgliedern der Öffentlichkeit ist dieses Vertrauen wahrscheinlich ziemlich gering.
DraftOne ist noch nicht weit verbreitet, obwohl das Unternehmen angibt, dass seine Tests mit Strafverfolgungsbehörden diesen geholfen haben, etwa eine Stunde Arbeit pro Tag einzusparen. In der Pressemitteilung wird auch ein Polizeisergeant der Fort Collins Colorado Police Services zitiert, der behauptet, dass seine Behörde dank der Software den Zeitaufwand für das Schreiben von Berichten „um 82 % senken“ konnte.
Gizmodo hat sich an Axon gewandt, um weitere Informationen zu seinem neuen Produkt zu erhalten, und wird diese Story aktualisieren, falls eine Antwort erfolgt.
