Scribble at 2023-07-09 08:12:48 Last modified: 2023-07-09 08:16:12
chaxor says:
The most frustrating thing about the many, many clones of this exact type of idea is that pretty much all of them require OpenAI.
Stop doing that.
You will have way more users if you make OpenAI (or anything that requires cloud) the 'technically possible but pretty difficult art of hoops to make it happen' option, instead of the other way around.
The best way to make these apps IMO is to make them work entirely locally, with an easy string that's swappable in a .toml file to any huggingface model. Then if you really want OpenAI crap, you can make it happen with some other docker secret or `pass` chain or something with a key, while changing up the config.
僕も Hacker News で最初に投じられた上記のコメントに同感だ。新しいサービスやテクノロジーが普及すると、こうやって Qiita とかにも「やってみた」系のクズみたいな部品だけを公開して、何か先進的なことをやったかのように思い込んでるガキとかがいて、そういうのを見つけては官製天才とかに認定している、まことにレベルの低い国家が東アジアにある。なんと言ったか、ジャパンとかいう世界でも有数の風俗国家だったかな。
というわけで、僕は gpt4all のようなローカルで動くものを使っている。もちろん、データは更新するからネットと断絶しているわけではないし、切り離す「べきだ」と言っているわけでもない。しかし、上記のようなツールは本質的なところを API からのレスポンスに頼ってしまっており、こんなものはただの「ガワ」（できの悪いフロント・エンド）にすぎない。本来ならシェル・スクリプトや perl のスクリプト１行で終わるような話ではないのか（それを実際に書いて見せたら、それはそれで大したものだと思うが）。