LONDON (IT BOLTWISE) – Mehrere Tech-Konzerne pushen KI-gestützte Entwicklungsagenten: GitHub orchestriert Multi-Agenten-Workflows, Anthropic steigert die KI-Codierungsquote und Google erweitert NotebookLM für die direkte Codeausführung. Gleichzeitig zeigen Studien ein ernstes Sicherheits- und Qualitätsproblem: 45 Prozent des KI-generierten Codes enthalten Schwachstellen, tausende Anwendungen gelten als nicht ausreichend abgesichert. Der Beitrag ordnet Technik, Marktbewegungen und regulatorische Pflichten ein, damit Unternehmen KI-Entwicklung kontrolliert ausrollen können.
Die Euphorie um KI-gestützte Softwareentwicklung bekommt derzeit einen deutlichen Dämpfer: Während führende Anbieter ihre Tools von klassischen Copilots hin zu agenten-nativen Entwicklungsumgebungen weiterziehen, steigt der Druck in Teams, Tests und Governance nachzuziehen. Berichten zufolge schreiben KI-Systeme bereits einen Großteil des Codes in Unternehmens-Repositories, doch genau dort offenbaren Studien eine wachsende Sicherheits- und Qualitätslücke. Besonders riskant ist dabei nicht nur „fehlerhafter“ Code, sondern Code, der scheinbar korrekt wirkt, aber typische Schwachstellenmuster wiederholt und Authentifizierungs- oder Zugriffskonzepte verfehlt.
Technisch setzen die neuen Ansätze auf orchestrierte Arbeitsabläufe statt Einmal-Antworten. GitHub beschreibt Copilot als agenten-nativen Desktop-Workspace, in dem mehrere KI-Agenten parallel arbeiten und Konflikte durch Worktree-Mechanismen reduziert werden sollen. Hinzu kommen Sandbox-Funktionen sowie ein automatisierter Validierungsprozess für Pull Requests, der verhindern soll, dass ungeprüfte Änderungen unbemerkt in den Hauptzweig wandern. LG CNS adressiert den End-to-End-Ansatz mit einer DevOn-Plattform, bei der eine Ontologie-basierte Wissensdatenbank den Entwicklungslebenszyklus über Analyse, Design und Testen hinweg steuert – inklusive praktischer Migration alter Legacy-Bausteine in moderne Sprachen.
Der Wettbewerb zeigt sich auch in der Tiefe, mit der KI mittlerweile Aufgaben über Zeitachsen übernimmt. Anthropic hebt hervor, dass das Claude-Modell in firmeneigenen Repositories einen sehr großen Anteil des zusammengeführten Codes erzeugt, und verweist auf messbar höhere Entwicklerproduktivität. Besonders bemerkenswert ist die Fähigkeit, mehrere Schritte innerhalb längerer Zeitfenster zu bewältigen, inklusive automatisierter Fehlerbehebung bei API-bezogenen Problemen. Google wiederum rüstet NotebookLM auf und koppelt die Notiz-Umgebung an Gemini-Modelle sowie eine Code-Ausführungsumgebung in der Cloud. In Tests werden dabei Erfolgsraten bei Recherche-Workflows genannt und Ergebnisse in gängigen Office-Formaten exportiert.
Mit dieser Leistungssteigerung verschiebt sich jedoch das Risiko- und Kostenprofil in Richtung „nachgelagerter“ Qualitätssicherung. Eine Marktanalyse deutet darauf hin, dass ein erheblicher Teil der technischen Reibung aus dem wiederholten Prüfen und Korrigieren KI-generierter Ergebnisse entsteht, insbesondere wenn Korrektheit und Sicherheitsanforderungen nicht vollständig im Voraus validiert werden. Wenn außerdem ein beträchtlicher Anteil des KI-Codes Schwachstellen aus gängigen Katalogen aufweist, verschiebt sich der reale Aufwand auf Security- und Test-Backlogs. Experten bewerten das als unsichtbare Produktivitätssteuerung: Unternehmen sparen zwar Zeit beim Schreiben, verlieren aber Zeit bei Reviews, Nacharbeit, Integration und Release-Governance – und im Worst Case entstehen Sicherheitsvorfälle, die deutlich teurer sind als der ursprüngliche Automatisierungsgewinn.
Genau hier wird die Sicherheitslage kritisch: Studienordnungen verweisen auf eine hohe Wahrscheinlichkeit, dass KI-generierter Code bekannte Schwachstellenmuster trägt, etwa aus den OWASP Top 10. Besonders brisant ist zudem die Beobachtung, dass Tausende Anwendungen aus automatisiertem Coding hervorgingen, aber keine ordnungsgemäße Authentifizierung implementierten; in einem Teil der Fälle seien sensible Daten aus Bereichen wie Finanz- und Gesundheitsverarbeitung exponiert gewesen. Das Problem ist weniger „böse Absicht“ als Systematik: KI optimiert sehr gut auf funktionale Muster, aber Sicherheits- und Compliance-Kontexte sind häufig schwer in Trainingsdaten zu verankern und müssen deshalb im Engineering- und Testprozess explizit erzwungen werden.
Auch regulatorisch verdichtet sich das Thema. Mit Blick auf die EU-KI-Verordnung entsteht für viele Organisationen die Notwendigkeit, Risikoanalysen, dokumentierte Prüfpfade und geeignete technische sowie organisatorische Maßnahmen nachzuweisen. Für KI-Entwicklungstools heißt das praktisch: Zugriffsrechte, Logging und Auditierbarkeit müssen so gestaltet sein, dass nachvollziehbar bleibt, welche KI-Outputs wann in die Produktion gelangen, welche Sicherheitschecks sie passiert haben und welche Governance-Regeln greifen. Gleichzeitig fordert Datenschutz-Konformität, dass sensible Daten in Code-Workflows nicht unnötig exponiert werden, etwa durch zu breite Zugriffstokens, fehlende Datensatz-Isolation in Cloud-Notebooks oder unzureichendes Masking in automatischen Testpipelines.
Für den Rollout ergibt sich daraus eine klare Priorisierung: Unternehmen sollten KI-gestützte Entwicklung zunächst als „beschleunigenden Vorschlag“ behandeln und Sicherheitsprüfungen als nicht verhandelbare Gatekeeper in die Pipeline integrieren. Das umfasst statische Analyse, Dependency-Checks, SAST/DAST-ähnliche Prüfpfade, robuste Secrets- und Authentifizierungstests sowie Fail-Safe-Mechanismen in Agenten-Workflows, damit Sandbox-Validierung und Pull-Request-Governance nicht zur bloßen Formalität werden. In der Zukunft dürften Multi-Agenten-Umgebungen zunehmen, aber der Engpass wird zunehmend nicht das Generieren von Code sein, sondern das verlässliche Testen, die Integration über Releases hinweg und die Nachweisführung gegenüber Audit- und Security-Teams. Wer diese Lücke früh schließt, kann aus den Leistungsgewinnen nachhaltig Wert ziehen – ohne das Sicherheitsprofil des Unternehmens zu verwässern.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Agenten schreiben Code: 45% unsicher, 5.000 Apps betroffen – was Unternehmen tun müssen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Agenten schreiben Code: 45% unsicher, 5.000 Apps betroffen – was Unternehmen tun müssen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Agenten schreiben Code: 45% unsicher, 5.000 Apps betroffen – was Unternehmen tun müssen« bei Google Deutschland suchen, bei Bing oder Google News!