Os produtos estão se tornando sistemas vivos, não artefatos estáticos

No desenvolvimento de produtos de IA, um 'modelo de recompensas' é um sistema que avalia e pontua os resultados do produto, e 'digeri-lo' significa processar e agir com base no seu feedback.

De repente, os produtos não são apenas esses artefatos estáticos que começamos a lançar, em que não é apenas 'Ei, venha com uma ideia ou insight. Vá resolver um problema, envie-o para o mundo, talvez o melhore um pouco e depois tenha um painel.' De repente, todo o KPI é qual é o metabolismo de uma equipe de produtos para poder ingerir dados, digerir o modelo de recompensas e então criar algum tipo de resultado?

Acho que há uma grande diferença entre passar de 80% de desempenho para 90%, 99% e 99,9%. Nos próximos um ou dois anos, os modelos vão automatizar 80% do trabalho médio de um engenheiro de software de nível 6. Vai levar alguns anos a mais para chegar a 90% e mais alguns anos para 99%.

Pense no SEO como um produto. Os gerentes de produto são as pessoas que deveriam estar pensando nessa questão de SEO, porque é uma questão de produto.

As 'leis de escala' se referem a padrões previsíveis no desempenho de modelos de IA à medida que você aumenta os dados, a computação e o tamanho do modelo.

Definitivamente, acho que precisamos de mais inovações. Acho que a escala de perda de mais dados, mais GPUs e uma arquitetura de modelo atual maior, ainda há muito a ser feito, mas acho absolutamente que precisamos inovar mais.