Проживая в квартире Григорьева, Гусев редко появлялся из своей комнаты. У Григорьева бывали шумные гости — студенты-филологи, почитатели, начинающие поэты. Но стоило прийти кому-нибудь из знакомых ему людей, как он тут же выходил, останавливался в дверях кухни, прислонясь к косяку, и так, разговаривая, стоял по часу, по два, пока не наступало время прощаться.
С возрастом он стал казаться хрупким. В молодости, несмотря на худобу, был крепок, жилист, но когда силы начали уходить, внешне стал похож на свою ранимую душу.
Критик Валентин Курбатов, прочитав составленный при жизни самим Гусевым двухтомник своих стихотворений и поэм, написал пронзительную, отчасти даже покаянную статью о его творчестве, сожалея, что в суете «пропустил дорогого собеседника, умного поэта, высокое русское сердце», закончив статью словами: «Но, слава Богу, поэзия не уходит с поэтом, а встает на полку святой русской библиотеки, чтобы дождаться другого открытого сердца. И жить дальше».
Умер Александр Иванович Гусев в 2001 году. В последние годы, говорят, писал жесткую прозу, из которой при жизни не опубликовал ни строчки.