Mientras el mundo sigue viendo cómo la inteligencia artificial avanza, comienzan a conocerse los pormenores de las maniobras que OpenAI y Microsoft hacen para mantener vivo a ChatGPT, el chatbot con el que han provocado una gran revolución en la industria tecnológica.
El uso de ChatGPT podría costarle a OpenAI hasta $ 700.000 dólares por día. Todo esto, para sostener la costosa infraestructura tecnológica con la que se ejecuta la IA que impulsa su famoso chatbot. La mayor parte se iría en el mantenimiento de sus servidores, estimó la firma de investigación de semiconductores SemiAnalysis.
ChatGPT requiere grandes cantidades de potencia informática para calcular las respuestas en función de las indicaciones de cada uno de sus usuarios. El cálculo de SemiAnalysis está basado en el modelo GPT-3. Por eso, es probable que el costo operativo hoy sea incluso mayor, luego del lanzamiento de GPT-4, explicó Dylan Patel, analista jefe de la consultora, The Information.
La capacitación de modelos de lenguaje grandes, como ChatGPT, puede demandar a OpenAI una inversión de decenas de millones de dólares. Pero, al final, los costos operativos superan este gasto con creces.
Para responder a las preguntas y consultas de las personas, el chatbot de OpenAI utiliza lo que los expertos en IA llaman “inferencia“. Y de acuerdo a otro informe publicado por SemiAnalysis, los costos para inferir de ChatGPT exceden los costos de capacitación semanalmente. Y mientras más uso y más usuarios, más dinero que desembolsar.
