En desarrollo · Las características, versiones y compatibilidad se informan por dispositivo y versión.

Wiki rogpOS

IA local, Gemma y RAG

Cómo busca rogpOS evidencia local, cuándo ingresa el modelo y qué límites permanecen visibles.

El asistente rogpOS fue diseñado para funcionar en el dispositivo, sin depender de la nube para una respuesta normal. La prioridad es encontrar evidencia local breve y útil. El modelo llega más tarde, cuando la base local no resuelve la cuestión.

Estado actual: el modelo predeterminado es Gemma 3 270M ESO Q8_0, ejecutar localmente. No existe una integración activa con la API de Gemini. Géminis y Gemma son productos diferentes; La futura integración con Gemini requeriría decisión propia sobre el producto, conectividad, política de datos y consentimiento.

El flujo actual

  1. La pregunta está estandarizada y asociada, cuando es posible, al juego o guía abierta.
  2. El RAG local busca en el paquete de conocimientos registros relevantes.
  3. Los resultados se clasifican y se limitan a un pequeño conjunto de pruebas.
  4. Si la evidencia local ya responde, el sistema devuelve una respuesta de fuente literal, sin iniciar el modelo.
  5. Cuando no es suficiente, el tiempo de ejecución local reserva a Gemma, configura un mensaje limitado y genera la respuesta.
  6. La respuesta queda sujeta al umbral probatorio y podrá declarar que no ha encontrado fundamento suficiente.

El tiempo de ejecución utiliza un socket Unix local, una cola con un trabajador, buffers limitados y cancelación. Durante el juego, la IA se puede pausar para devolver la memoria y la CPU a la ruta principal.

¿Qué significa RAG aquí?

RAG es la recuperación aumentada por generación. En rogpOS actual, la recuperación es local y está impulsada por registros y palabras clave. No depende de incrustaciones ni de una base de datos vectorial remota. Para las guías de juegos, el diseño proporciona algunos extractos relevantes y fichas de citas, con un recurso literal cuando la plantilla no está disponible.

Las incrustaciones, como las que ofrece la API de Gemini, pueden representar texto para búsqueda semántica. Esta es una posibilidad arquitectónica futura, no una característica activa de rogpOS.

Límites que deben aparecer

  • un modelo pequeño puede malinterpretar el contexto, los nombres y la intención;
  • la respuesta no sabe nada que no esté en el paquete local o en el mensaje;
  • la recuperación de palabras clave omite relaciones semánticas y sinónimos inesperados;
  • El contenido de la comunidad puede contener errores y necesita procedencia;
  • poca memoria requiere contexto breve y pocos resultados;
  • una respuesta fluida no es prueba de que la instrucción sea segura;
  • el asistente no debe inventar compatibilidades, comandos o hechos faltantes.

Privacidad y red

La ruta predeterminada no envía la pregunta a un servicio de IA en la nube. Si en el futuro se estudia la integración remota, habría que desactivarla por defecto, explicar qué datos salen del dispositivo, pedir un consentimiento específico, ofrecer una alternativa local y permitir la revocación.

Cómo mejorar sin perder el control

  • paquetes de conocimientos de versión;
  • registrar el origen, alcance y fecha de cada sección;
  • evaluar la recuperación y la respuesta por separado;
  • mantener un conjunto de preguntas conocidas y medir la precisión, la negación y las citas;
  • comparar la búsqueda léxica y semántica con el mismo corpus antes de agregar infraestructura;
  • evitar que el modelo ejecute comandos directamente;
  • reserve CPU y memoria para la experiencia de juego.

El objetivo no es responderlo todo. Se trata de ayudar con claridad y saber cuándo no hay evidencia suficiente.

Referencias oficiales