点击上方“Deephub Imba”,关注公众号,好文章不错过 !HuggingFace 的 .generate() 是个黑盒，而且这个黑盒藏了一个代价很高的问题，每一个解码步骤它都从头开始对整个 prompt 做一次完整的注意力计算。每一个 ...

不幸的是，没有明确定义的 API 可供我们检索此数据。 获取此信息的一种方法是使用 Python Selenium 创建我们自己的抓取工具。 然而，这需要更多的工作，而且并不是每个人都对这种技术感到满意。 更好的解决方案是使用 BrightData 等第三方服务。