antonioanerao

def calcular_vram(num_parametros, quantization_bits, overhead_factor=1.2):
    memoria_modelo = (num_parametros * quantization_bits) / (8 * 10**9)
    memoria_total = memoria_modelo * overhead_factor
    return memoria_total


def main():
    try:
        num_parametros = float(input("Número de parâmetros do modelo (em bilhões, ex: 8 para 8B): ")) * 10**9
        quantization_bits = int(input("Tamanho da quantização (quantization size em bits, ex: 4, 6, 8): "))

antonioanerao

ARG CUDA_IMAGE="12.5.0-devel-ubuntu22.04"
FROM nvidia/cuda:${CUDA_IMAGE}

WORKDIR /app
ENV ACCEPT_EULA=Y
ENV DEBIAN_FRONTEND=noninteractive
ENV HOST=0.0.0.0
ENV CUDA_DOCKER_ARCH=all
ENV GGML_CUDA=1

antonioanerao

services:

  traefik:
    image: "traefik"
    container_name: "traefik"
    restart: always
    command:
      - "--log.level=DEBUG"
      - "--api.insecure=true"
      - "--providers.docker=true"

antonioanerao

#!/bin/bash

docker ps --format "{{.Names}}" | while read container; do
  ip=$(docker inspect --format '{{range .NetworkSettings.Networks}}{{.IPAddress}}{{end}}' "$container")
  printf "%-40.40s\t%s\t%s\n" "$container" "$ip" 
done

antonioanerao

services:
  
  traefik:
    image: "traefik"
    container_name: "traefik"
    restart: always
    command:
      - "--log.level=DEBUG"
      - "--api.insecure=true"
      - "--providers.docker=true"

antonioanerao

version: "3.3"
services:

  laravel:
    container_name: laravel
    image: antonioanerao/laravel:latest
    restart: always
    networks:
      - proxy
    ports:

antonioanerao

description: Novo recurso ou melhoria de um existente 
title: "[Aprimoramento]: "
labels: ["enhancement"]
body:
    - type: textarea
      id: aprimoramento
      attributes:
          label: Aprimoramento
          description: Descreva detalhadamente qual o novo recurso ou aprimoramento desejado.
      validations:

antonioanerao

name: Reportar Bug
description: Reportar um erro de comportamento ou bug do código
title: "[Bug]: "
labels: ["bug"]
body:
    - type: textarea
      id: o-que-houve
      attributes:
          label: O que houve?
          description: Descreva detalhadamente qual foi o problema encontrado

antonioanerao

version: "3.3"
services:

  traefik:
    image: "traefik"
    container_name: "traefik"
    restart: always
    command:
      - "--log.level=DEBUG"
      - "--api.insecure=true"

antonioanerao

version: "3.3"
services:

  sigep-auth:
    container_name: sigep-auth
    image: antonioanerao/laravel:latest
    restart: always
    networks:
      - proxy
    ports: