Bis zuletzt war er auch in mehreren Vereinen führend tätig. Beispielsweise leitete er 54 Jahre lang, von seinem 23. Lebensjahr mit ein paar Jahren Unterbrechung bis zu seinem Tod, den Männergesangverein 1880 Alsweiler . Ferner gehörte er zu den Gründungsmitgliedern des Mandolinenvereins Alsweiler , des Vereins für Heimatkunde Alsweiler und des Hiwwelhaus-Vereins. In allen drei Vereinen war er zum Teil Jahrzehnte lang Kassierer. Bis zuletzt war er auch aktives Mitglied im Kirchenchor.

"Herbert Schmidt hat sich um Alsweiler und seine Bürger außerordentliche Verdienste erworben, durch seine politische Tätigkeit ebenso wie durch sein Engagement in den Vereinen", erklärte der Alsweiler Ortsvorsteher Theo Neis. Adolf Hoffmann, der Leiter des Mandolinenvereins und Dienstältester unter den Alsweiler Vereinsvorsitzenden, der mit Schmidt seit Jugendtagen auch persönlich befreundet war, würdigte den Verstorbenen als eine außergewöhnliche Persönlichkeit. "Überall, wo er konnte, hat er geholfen. Bis aufs Kleinste hat er alles organisiert." Klaus Brill vom Verein für Heimatkunde Alsweiler erklärte: "In vieler Hinsicht verkörperte Herbert Schmidt die alte dörfliche Tradition des Gemeinsinns und des gesellschaftlichen Engagements in der Dorfgemeinschaft in vorbildlicher Weise." Für seine zahlreichen Verdienste hatte der Verstorbene vom Bundespräsidenten schon vor mehr als zehn Jahren das Bundesverdienstkreuz erhalten. Die Beerdigung findet am kommenden Montag in Alsweiler statt.