u/kentabenno

I have tried a few models, but cant find a suitable model thats useful and runs on my machine.

Gemma4:27b has good speed (outputting up to 40t/s) and is awesome for textbased stuff, but is sloppy AF when it comes to tool calling and agent work. With this setup i have a nice chat bot but is not very useful as an agent helper.

I tried Qwen3.6-27B-4bit, which runs so unbearably slow (1.5t/s) so i can not even test if it works better with hermes.

I tried GLM-4.7-Flash-MLX-6bit and it seems to have okay speed and at least can reliably call the tools, but seems to crash the omlx server frequently... thus not very usable

I know that 36gb memory is not a lot for local llms but is there a good sweet spot model for accuracy, tool calling and speed?

To all editors out there, is there a library of all the most used meme sounds for social media for download? I always search for them on YouTube and rip them, but there must be an archive somewhere

Ich bin seit über 10 Jahren Selbstständig als Dienstleister in der Medienbranche. Das Business läuft okay, ich komm über die Runden, aber werde nicht reich.

Ich bin sehr introvertiert und kein besonders guter Verkäufer. Ich bin gut in meinem Handwerk und meine Kunden vertrauen mir. Bislang hab ich alle meine Kunden durch Mundpropaganda und Empfehlungen generiert.

Ich war vor kurzem auf einer großen Branchenmesse und hatte mir vorgenommen, Kontakte zu knüpfen und evtl Kunden zu akquirieren. Diese zwei Tage haben mich komplett ausgelaugt. Jetzt bin ich total erschöpft und fühle mich schlecht, weil ich das Gefühl habe, dass unter den o.g. Voraussetzungen mein Business einfach nie wachsen wird.

TLDR: Bin ich als jemand, der Leute nicht gerne volllabert und mich selbst darstelle, als Selbstständiger zum Scheitern verurteilt?

Seit Wochen lese ich hier auf Reddit irgendwas von Timmy. Mittlerweile habe ich rausgelesen dass da großer Wind um einen gestrandeten Wal gemacht wird. Ich habe aber abseits von Reddit noch nirgendwo irgendwas über den Wal gehört. Ich gucke/lese schon länger keine Nachrichten mehr und auch in meiner Youtube oder Instagram Blase ist das kein Thema. Ich hab noch kein einziges Foto gesehen, weiß nicht wo der liegt und was das Problem ist. Aber ist mir auch echt egal. Sorry Wal tut mir leid um dich

Ever since I got into self hosting, I started to use Obsidian as a second brain. I wrote a script that makes it easy to just talk to my phone and get a perfect transscription in my Obsidian vault. I use it like a diary, collecting all my unfiltered thoughts. nothing criminal, but sometimes very personal and intimate.

I was thinking about what's going to happen after my passing. I mean when I am dead I could not care less what people find out about me, but still, maybe some notes are worth being destroyed once I am gone.

How do you handle this? Do you have a dead man switch or killswitch implemented, just in case?

Would love to learn about your setups and/or hear your thoughts.