Dockerfile

FROM ollama/ollama

RUN mkdir -p /.ollama && chmod 777 /.ollama

ENV OLLAMA_MAX_LOADED_MODELS=20 --OLLAMA_NUM_PARALLEL=20
ENV OLLAMA_HOST "0.0.0.0:7860"

CMD ["serve"]
EXPOSE 7860