AnythingLLM es una aplicación en la que se pueden usar LLMs («modelos de lenguaje grandes») para crear un chatbot privado sin compromisos para ejecutar localmente y alojar de forma remota. Permite, por tanto, poder chatear de forma inteligente con cualquier documento que se le proporcione.
AnythingLLM divide los documentos en objetos llamados espacios de trabajo. Un espacio de trabajo funciona de forma muy similar a un hilo, pero con el añadido de la «containerización» de los documentos. Los espacios de trabajo pueden compartir documentos, pero no se comunican entre sí, por lo que se puede mantener limpio el contexto de cada espacio de trabajo.