O assistente do rogpOS foi desenhado para operar no aparelho, sem depender da nuvem para a resposta normal. A prioridade é encontrar evidência local curta e útil. O modelo entra depois, quando a base local não resolve a pergunta.
Estado atual: o modelo padrão é Gemma 3 270M IT Q8_0, executado localmente. Não existe integração ativa com a API Gemini. Gemini e Gemma são produtos diferentes; uma integração futura com Gemini exigiria decisão de produto, conectividade, política de dados e consentimento próprios.
O fluxo atual
- A pergunta é normalizada e associada, quando possível, ao jogo ou ao guia aberto.
- O RAG local procura registros relevantes no pacote de conhecimento.
- Os resultados são ranqueados e limitados a um conjunto pequeno de evidências.
- Se a evidência local já responde, o sistema devolve uma resposta literal com origem, sem iniciar o modelo.
- Quando ela não basta, o runtime local reserva o Gemma, monta um prompt limitado e gera a resposta.
- A resposta continua sujeita ao limite de evidência e pode declarar que não encontrou base suficiente.
O runtime usa um socket Unix local, uma fila com um worker, buffers limitados e cancelamento. Durante o jogo, a IA pode ser pausada para devolver memória e CPU ao caminho principal.
O que RAG significa aqui
RAG é recuperação aumentada por geração. No rogpOS atual, a recuperação é local e orientada por registros e palavras-chave. Ela não depende de embeddings ou de um banco vetorial remoto. Para guias de jogo, o desenho prevê poucos trechos relevantes e chips de citação, com fallback literal quando o modelo não está disponível.
Embeddings, como os oferecidos pela API Gemini, podem representar texto para busca semântica. Isso é uma possibilidade de arquitetura futura, não uma função ativa do rogpOS.
Limites que precisam aparecer
- um modelo pequeno pode interpretar mal contexto, nomes e intenção;
- a resposta não conhece nada que não esteja no pacote local ou no prompt;
- recuperação por palavra-chave perde relações semânticas e sinônimos inesperados;
- conteúdo de comunidade pode conter erro e precisa de proveniência;
- pouca memória exige contexto curto e poucos resultados;
- uma resposta fluente não é prova de que a instrução é segura;
- o assistente não deve inventar compatibilidade, comandos ou fatos ausentes.
Privacidade e rede
O caminho padrão não envia a pergunta para um serviço de IA em nuvem. Se uma integração remota for estudada no futuro, ela deverá ser desligada por padrão, explicar quais dados saem do aparelho, pedir consentimento específico, oferecer alternativa local e permitir revogação.
Como melhorar sem perder controle
- versionar os pacotes de conhecimento;
- registrar origem, escopo e data de cada trecho;
- avaliar recuperação e resposta separadamente;
- manter um conjunto de perguntas conhecidas e medir precisão, recusa e citação;
- comparar busca lexical e semântica com o mesmo corpus antes de adicionar infraestrutura;
- impedir que o modelo execute comandos diretamente;
- reservar CPU e memória para a experiência de jogo.
O objetivo não é responder tudo. É ajudar com clareza e saber quando não há evidência suficiente.