Produkte werden zu lebendigen Systemen, nicht zu statischen Artefakten

In der Entwicklung von KI-Produkten ist ein "Rewards-Modell" ein System, das Produktergebnisse bewertet und benotet, und "Verdauen" bedeutet, diese Rückmeldung zu verarbeiten und darauf zu reagieren.

Auf einmal sind Produkte nicht mehr nur diese statischen Artefakte, die wir auf den Markt bringen, bei denen es nicht nur darum geht, eine Idee oder einen Erkenntnisgewinn zu entwickeln, ein Problem zu lösen, es auf die Welt loszulassen, vielleicht ein wenig zu verbessern und dann ein Dashboard zu haben. Auf einmal ist die ganze KPI, was die Stoffwechselrate eines Produktteams ist, um Daten aufzunehmen und dann das Belohnungsmodell zu verdauen und dann irgendeine Art von Ergebnis zu schaffen?

Ich denke, es gibt einen großen Unterschied zwischen dem Fortschritt von 80% auf 90% Leistung, von 90% auf 99% und von 99% auf 99,9%. Innerhalb der nächsten ein oder zwei Jahre werden die Modelle 80% der Arbeit eines durchschnittlichen L6-Softwareentwicklers automatisieren. Es wird weitere ein paar Jahre dauern, um auf 90% zu kommen, und noch ein paar weitere, um die 99% zu erreichen.

Denken Sie an SEO als ein Produkt. Die Produktmanager sind die Leute, die sich mit dieser SEO-Frage befassen sollten, denn es ist eine Produktfrage.

"Scaling loss" scheint ein Transkriptionsfehler zu sein - wahrscheinlich war "Skalierungsgesetze" gemeint, die vorhersagbare Muster in der KI-Modellleistung bei Erhöhung von Daten, Rechenleistung und Modellgröße beschreiben.

Ich denke definitiv, dass wir mehr Innovationen brauchen. Ich denke, die Skalierung des Verlusts durch mehr Daten, mehr GPUs und größere aktuelle Modellarchitekturen bietet noch viel Potenzial, aber ich bin absolut der Meinung, dass wir mehr innovieren müssen.