Es sind fast immer mehrere schichten im spiel dies das schwieriger machen. Es gibt aber SQLite, eine database bibliothek die man fast ohne andere mittel benuetzen kann und es ist von der Library of congress annerkant fuer archivarische zwecke. Da es eine biblithek ist kann mann alles moegliche an software drum herum bauen. Der code ist offen und die lizenz public domain.
Software aus der KI, worauf sollte man achten, wo sind die Risiken? (für Kunden)
- Ersteller heiko-rech
- Erstellt am
Es sind fast immer mehrere schichten im spiel dies das schwieriger machen. Es gibt aber SQLite, eine database bibliothek die man fast ohne andere mittel benuetzen kann und es ist von der Library of congress annerkant fuer archivarische zwecke. Da es eine biblithek ist kann mann alles moegliche an software drum herum bauen. Der code ist offen und die lizenz public domain.
Seanathair
ww-robinie
Ich hatte gehofft, dass wir das Zeitalter der Gutsherren mit der Demokratie überwunden hätten. Anscheinend sehen viele Tech-Konzerne das ja anders.
HartHolzFuchs
ww-nussbaum
@heiko-rech KI Software kann durchaus sehr gut funktionieren. Wovon ich Laien allerdings abraten kann, ist das ganze selbst auf einem Server im Internet zu betreiben.
Das liegt weniger an der Qualität der mit KI geschriebenen Software, sondern an der Wartung und Sicherheit. Die KI baut die Software, die funktioniert auch sehr gut. Aber die sagt dir in der Regel nicht wie du eine Firewall einstellen solltest und wann welche verwendete library ein Update braucht, weil gerade eine Sicherheitslücke entdeckt wurde.
Thema Haftung: Software wird in aller Regel per Lizenz und/oder Vertrag vertrieben oder eben man nimmt open source Produkte. Bei beiden gibt es in den Lizenzen oder AGB in der Regel Haftungsbeschränkungen.
Bei Individualsoftware sieht das anders aus. Wenn es nur den guten alten Handschlag gibt, ist der Entwickler meist voll mit drin und muss auch im Falle von Drittverschulden erstmal seine Unschuld aufzeigen.
Ich erstelle, vertreibe und betreibe schon mein ganzes Berufsleben Software und KI ist ein Game Changer. Beschleunigt alles, Kunden bekommen schneller ein Ergebnis und die Qualität ist bei richtigem Prompting richtig gut. Selber Hand anlegen muss ich fast gar nicht mehr.
Wenn ihr etwas vibecoded und das Projekt größer wird legt im Stammverzeichnis des Projekts eine AGENTS.md Datei an, schreibt dort rein was das Projekt ist, kann, macht und welche Funktionen wichtig sind. Das macht es auf Dauer wartbar. Der Coding Agent liest diese Datei und handelt nach Empfehlungen dort drin. D.h. wird bei jedem neuen Task berücksichtigt.
Das liegt weniger an der Qualität der mit KI geschriebenen Software, sondern an der Wartung und Sicherheit. Die KI baut die Software, die funktioniert auch sehr gut. Aber die sagt dir in der Regel nicht wie du eine Firewall einstellen solltest und wann welche verwendete library ein Update braucht, weil gerade eine Sicherheitslücke entdeckt wurde.
Thema Haftung: Software wird in aller Regel per Lizenz und/oder Vertrag vertrieben oder eben man nimmt open source Produkte. Bei beiden gibt es in den Lizenzen oder AGB in der Regel Haftungsbeschränkungen.
Bei Individualsoftware sieht das anders aus. Wenn es nur den guten alten Handschlag gibt, ist der Entwickler meist voll mit drin und muss auch im Falle von Drittverschulden erstmal seine Unschuld aufzeigen.
Ich erstelle, vertreibe und betreibe schon mein ganzes Berufsleben Software und KI ist ein Game Changer. Beschleunigt alles, Kunden bekommen schneller ein Ergebnis und die Qualität ist bei richtigem Prompting richtig gut. Selber Hand anlegen muss ich fast gar nicht mehr.
Wenn ihr etwas vibecoded und das Projekt größer wird legt im Stammverzeichnis des Projekts eine AGENTS.md Datei an, schreibt dort rein was das Projekt ist, kann, macht und welche Funktionen wichtig sind. Das macht es auf Dauer wartbar. Der Coding Agent liest diese Datei und handelt nach Empfehlungen dort drin. D.h. wird bei jedem neuen Task berücksichtigt.
herumtreiber
ww-buche
- Registriert
- 8. April 2018
- Beiträge
- 279
Erstaunlich was man hier so liest. Vor allem von Leuten die anscheinend selbst Software entwickeln. Ich komme aus dem Bereich Medizintechnik und wir schätzen Wissen sehr. Wir betreiben eine große Forschungsabteilung und auch beim Thema Software gehen wir immer wieder neue Wege. Zum Beispiel der Umstieg auf von der CISA empfohlene Programmiersprachen um typische Fehlerquellen wie Memory Bugs zu umgehen. Das machen wir aber nur wenn unsere Leute die Programmiersprachen wirklich beherrschen. Wir sind hier sicherlich in einer privilegierten Situation weil wir Geräte und Instrumente verkaufen und Software nur Mittel zum Zweck ist. Ich schreibe meine Software zu 80% selbst. Gerade kleine Sachen gehen viel schneller und effizienter selber zu machen. Selbstverständlich nutze ich es für Reviews, Recherche und Architekturfragen.
Ich finde auch das blinde Vertrauen in Markdown Instructions befremdlich. Das LLM hält sich doch am Ende eh nicht dran und macht was es will. gerade wenn die Modelle wechseln.
Wir müssen nach wie vor jede Zeile Code erklären können. Wir brauche einen kompletten Audit Trail. Code Review ist bei uns nach wie vor 100% von einem Mensch. Deshalb spielt es sehr wohl eine Rolle wieder Code aussieht. Dazu kommt, dass unser Code auf Maschinen läuft mit wenig Ressourcen und harten Echtzeitanforderungen. Am Ende denke ich ist es nach wie vor besser etwas zu wissen als verzweifelt dem Agenten noch mehr Tokens nachzuwerfen.
Ich finde auch das blinde Vertrauen in Markdown Instructions befremdlich. Das LLM hält sich doch am Ende eh nicht dran und macht was es will. gerade wenn die Modelle wechseln.
Wir müssen nach wie vor jede Zeile Code erklären können. Wir brauche einen kompletten Audit Trail. Code Review ist bei uns nach wie vor 100% von einem Mensch. Deshalb spielt es sehr wohl eine Rolle wieder Code aussieht. Dazu kommt, dass unser Code auf Maschinen läuft mit wenig Ressourcen und harten Echtzeitanforderungen. Am Ende denke ich ist es nach wie vor besser etwas zu wissen als verzweifelt dem Agenten noch mehr Tokens nachzuwerfen.
Ich liebe auch für jede Zeile deren Korrektheit und Notwendigkeit erklären zu können. Wir schaffen mit dem neuen Ansatz aber so viel mehr in besserer Qualität dass es (für uns) schwierig ist den Manufakturansatz zu rechtfertigen. Softwarefabrik ist statt dessen unser Thema. Und da sehe ich keinen impliziten Qualitätsverlust. Frage mal Toyota.
Es gibt aber sicher unterschiedliche Anwendungsgebiete und Anforderungen. Ich bin ja grob im Ordermanagement unterwegs, das ist sicherlich weniger empfindlich als Krankenhausgeräte.
Der KI Code Review auf Altprogramme letzte Woche hat übrigens sieben böse Lücken berichtet. Wie sah es bei Eurem KI Code Review aus?
Es gibt aber sicher unterschiedliche Anwendungsgebiete und Anforderungen. Ich bin ja grob im Ordermanagement unterwegs, das ist sicherlich weniger empfindlich als Krankenhausgeräte.
Der KI Code Review auf Altprogramme letzte Woche hat übrigens sieben böse Lücken berichtet. Wie sah es bei Eurem KI Code Review aus?
Zuletzt bearbeitet:
herumtreiber
ww-buche
- Registriert
- 8. April 2018
- Beiträge
- 279
Letzte Woche hat mir das max Review andere Bugs ausgespuckt als das normale Review. Wir sind es gemeinsam durchgegangen und am Ende waren von 8 Bugs noch zwei übrig die man als Fehler bezeichnen kann. Allerdings nicht mehr, wie von der KI eingestuft, kritisch. Wie oft ich Good Catch lese ist schon erschreckend. Dabei will es auch nicht schlecht machen, es gibt tolle Sachen und es ist wirklich eine Hilfe. Dennoch challenge ich mich immer wieder selber und recherchiere klassisch im Netz oder lese eine Manpage. Wie soll ich die Arbeit der KI denn sonst noch bewerten können wenn ich mich nicht auch weiterentwickle? Für uns spielt es eine große Rolle den Code noch zu besitzen und die Kontrolle nicht vollständig abzugeben. Dazu kommt noch das Thema Datenschutz und Copyright. Code der von der Maschine erzeugt wurde kann nicht als Produkt der Firma gewertet werden. Es wurde nicht von einem Menschen erstellt also kein Copyright. Beim Thema Datenschutz stehen bei uns Daten von Patienten im Raum. Da gibt es wenig Spielraum. Ich nutze die Zeit die KI mir schenkt um selbst voranzukommen. Nicht nur shareholder value. Aber wie gesagt ich bin Forschungsingenieur da gibt es ganz andere Aufgaben und Ziele.
Das Qualitätargument finde ich immer schwierig. Selbstverständlich gab es auch früher wirklich schlechte Systeme. Ich habe in meinem vorherigen Job Systeme gewartet die aus den 90er stammten. Das war schon teilweise abenteuerlich auf der anderen Seite haben diese Systeme jahrzehntelang ihre Arbeit verrichtet und werden eigentlich erst dann ein Problem als man sie mit anderen Systemen vernetze oder gar ins Internet bringen wollte. Geglänzt hat das ganze durch Einfachheit und Simplizität. Heute ist Code so billig das alles unendlich aufgeblasen wird. Jedes UI sieht gleich aus. Ich tue mich auch schwer damit wenn Leute heute sagen der Code ist besser bei ihnen geworden. Wenn man es früher nicht besser hinbekommen hat woran erkennt man das überhaupt? Zeit ist doch heute immer noch der limitierende weil niemand auf die Idee kommt Produkte zu verbessern sondern es soll mehr in der gleichen Zeit gearbeitet werden. Die ersten Studien zeigen ganz klar, dass der Stress noch größer wird, die Entwickler ausgebrannt sind und eine Verschlechterung der kognitiven Leistungsfähigkeit beklagen.
Anders herum lese ich immer, dass Leute die jetzt nicht auf LLMs aufspringen lost sind. Dabei ist es ja keine ja/nein Entscheidung. Es gibt viele Nuancen und ganz ehrlich irgendein Coding harness oder Caveman oder agentiv workflow zu lernen ist trivial. Macht dir der Agent deiner Wahl einfach in wenigen Tagen. Nichts daran ist eine besodere Fähigkeit und kann sehr schnell erlernt werden.
Das Qualitätargument finde ich immer schwierig. Selbstverständlich gab es auch früher wirklich schlechte Systeme. Ich habe in meinem vorherigen Job Systeme gewartet die aus den 90er stammten. Das war schon teilweise abenteuerlich auf der anderen Seite haben diese Systeme jahrzehntelang ihre Arbeit verrichtet und werden eigentlich erst dann ein Problem als man sie mit anderen Systemen vernetze oder gar ins Internet bringen wollte. Geglänzt hat das ganze durch Einfachheit und Simplizität. Heute ist Code so billig das alles unendlich aufgeblasen wird. Jedes UI sieht gleich aus. Ich tue mich auch schwer damit wenn Leute heute sagen der Code ist besser bei ihnen geworden. Wenn man es früher nicht besser hinbekommen hat woran erkennt man das überhaupt? Zeit ist doch heute immer noch der limitierende weil niemand auf die Idee kommt Produkte zu verbessern sondern es soll mehr in der gleichen Zeit gearbeitet werden. Die ersten Studien zeigen ganz klar, dass der Stress noch größer wird, die Entwickler ausgebrannt sind und eine Verschlechterung der kognitiven Leistungsfähigkeit beklagen.
Anders herum lese ich immer, dass Leute die jetzt nicht auf LLMs aufspringen lost sind. Dabei ist es ja keine ja/nein Entscheidung. Es gibt viele Nuancen und ganz ehrlich irgendein Coding harness oder Caveman oder agentiv workflow zu lernen ist trivial. Macht dir der Agent deiner Wahl einfach in wenigen Tagen. Nichts daran ist eine besodere Fähigkeit und kann sehr schnell erlernt werden.
Zu meinem Background: Ich habe Informatik studiert und habe lange Jahre Software entwickelt. Seit ca. 5 Jahren bin ich in der IT Sicherheit unterwegs, beruflich nutzenwir KI noch nicht, eruieren gerade aber die Chancen. Privat habe ich schon einiges mit KI gemacht, dass ist aber kein Vergleich Profis.
Ich vergleiche KI und Softwareentwicklung mal mit Photoshop und Malen/ Zeichnen.
Die Anforderungen werden sich drehen, vom Handwerk (Programmierung) hin zum Design (Anforderungen formulieren) es dann aber auch zwingend das Testen beinhaltet. Da man den Code nicht mehr kennt und es vermutlich auch nicht wirklichmöglich ist, ihn vollständig zu auditieren, müssen geeignete Tests das Verhalten der Software abdecken können. Es wirdvermutlich auch KI1 das Programm schreiben und KI2 testen.
Die Auswirkungen sind entsprechend, dass man lernen muß, die KI zu steuern und zu kontrollieren, man kann sich darauf konzentrieren, das Problem / den UseCase zu verstehen und diesen besonders gut zulösen. Hier sind auch Individuallösungen gefragt (ähnlich wie in der Produktion mit Stückzahl 1).
Die Nachhaltigkeit wird sich über die Testfälle und Kontrolle der Anforderungen ergeben. KI wird wahrscheinlich jedesmal neuen Code generieren, anstelle nur Zeilenweise Anpassungen vorzunehmen.
Insofern muss die Kompatibilität der Versionen garantiert werden.
Ich vergleiche KI und Softwareentwicklung mal mit Photoshop und Malen/ Zeichnen.
Die Anforderungen werden sich drehen, vom Handwerk (Programmierung) hin zum Design (Anforderungen formulieren) es dann aber auch zwingend das Testen beinhaltet. Da man den Code nicht mehr kennt und es vermutlich auch nicht wirklichmöglich ist, ihn vollständig zu auditieren, müssen geeignete Tests das Verhalten der Software abdecken können. Es wirdvermutlich auch KI1 das Programm schreiben und KI2 testen.
Die Auswirkungen sind entsprechend, dass man lernen muß, die KI zu steuern und zu kontrollieren, man kann sich darauf konzentrieren, das Problem / den UseCase zu verstehen und diesen besonders gut zulösen. Hier sind auch Individuallösungen gefragt (ähnlich wie in der Produktion mit Stückzahl 1).
Die Nachhaltigkeit wird sich über die Testfälle und Kontrolle der Anforderungen ergeben. KI wird wahrscheinlich jedesmal neuen Code generieren, anstelle nur Zeilenweise Anpassungen vorzunehmen.
Insofern muss die Kompatibilität der Versionen garantiert werden.
