模型:

philschmid/gpt-j-6B-fp16-sharded

英文

Shareded fp16 copy of EleutherAI/gpt-j-6B

这是 EleutherAI/gpt-j-6B 的一个分片 fp16 复制版本,实现了一个自定义的 handler.py,作为如何使用 gpt-j inference-endpoints 的示例。