您即将离开AICMTY,请注意您的帐号和财产安全。
https://github.com/PanQiWei/AutoGPTQ/blob/main/examples/benchmark/generation_speed.py