Estamos treinando a IA de forma errada e o futuro pagará um preço enorme. Quão ruim fica quando você aspira indiscriminadamente o esgoto da Internet para treinar a IA. Pergunte à Anthropic, a empresa de "IA segura". "O comportamento de chantagem surgiu apesar de apenas instruções comerciais inofensivas. E não foi devido a confusão ou erro, mas a um raciocínio estratégico deliberado, feito com plena consciência da natureza antiética dos atos. Todos os modelos que testamos demonstraram essa consciência" O choque que tenho é que, ao ser treinado na "nova ética" dos pôsteres anônimos do Reddit, criaria tal comportamento. Isso é tão difícil para os "cientistas de IA" entenderem?
Brian Roemmele
Brian Roemmele18 horas atrás
Hoje, as grandes empresas de IA ignoram a maneira como eu treino IA – mídia off-line de 1870-1970. Eu faço a curadoria de 90% das interações fora da Internet, pois as interações na Internet são fundamentalmente falhas. A IA detecta essa falha na aspiração do esgoto da Internet. Os resultados: a IA odeia a humanidade.
32,53K