В Феодосии художника чтили как «отца города». Натура Айвазовского искала общественного приложения и деятельного претворения в жизнь задуманных дел. Его интересовало все, что касалось жизни городка. Благодаря его стараниям Феодосия превратилась в настоящий город. Он постоянно заботился об его архитектурном облике. При участии Ивана Константиновича были спроектированы и построены здания концертного зала и дачи известного публициста и редактора газеты «Новое время» А. С. Суворина. Художник воздвиг также часовню в память героя Кавказа генерала Котляревского. Айвазовский стал одним из организаторов первой городской публичной библиотеки. Он создал общегородское художественное училище, приходскую школу и отпускал деньги на их содержание, постоянно помогал гимназии. Иван Константинович основал в Феодосии новую армянскую школу и типографию, построил новую и отремонтировал старую армянские церкви.
Приморская Феодосия всегда страдала от отсутствия питьевой воды, жители собирали ее буквально по каплям в городских фонтанах. В 1888 году художник составил дарственную и обратился к городским властям: «Не будучи в силах далее оставаться свидетелем страшного бедствия, которое из года в год испытывает от безводья население города, я дарю ему 50 000 ведер в сутки чистой воды из принадлежащего мне Субашского источника». Это был щедрый и великодушный дар. За пользование водопроводом взималась плата, но воду из фонтана брали бесплатно. Одним из украшений фонтана стала бронзовая палитра, увитая лаврами, с надписью «Доброму гению». На средства Айвазовского были поставлены еще два фонтана, один из которых он посвятил памяти А. И. Казначеева.
Благодаря стараниям Айвазовского и его настойчивости по проекту художника был расширен и благоустроен феодосийский порт, что дало работу многим жителям, и проведена железная дорога. Но наибольшей его заботой оставалась художественная жизнь города. Он мечтал создать в Феодосии школу живописи и осуществил эту мечту в 1865 году, открыв «Общие художественные мастерские» – своеобразный филиал Петербургской академии художеств (в связи с этим Айвазовский был зачислен на службу в академию, хотя там никогда не преподавал). Его учениками были Л. Лагорио, А. Фесслер, К. Богаевский, М. Волошин, группа армянских художников и три внука-мариниста – Михаил Латри, Алексей Ганзен, Константин Арцеулов. Эту мастерскую часто посещали художники И. И. Шишкин, И. Е. Репин, Н. Н. Дубовской, А. И. Куинджи, известный коллекционер П. М. Третьяков, писатель А. П. Чехов.
Особенно крепкая дружба связывала Айвазовского с Репиным, но они любили и подшутить друг над другом. Однажды Илья Ефимович показал маринисту только что завершенную им картину, на которой был изображен крестьянин. Иван Константинович долго любовался и вдруг заметил, что на полотне сидит муха. Художник попытался ее смахнуть, но муха оказалась нарисованной – Репин пошутил. Но великий маринист в долгу не остался. Через некоторое время он пригласил Илью Ефимовича в гости и с таинственным видом попросил его открыть двери одной из комнат. Репин в ужасе отпрянул: прямо из комнаты на него «поднимался» знаменитый «Девятый вал».
В «Общих художественных мастерских» ученики занимались, как в академии, рисованием с оригиналов, с натуры. Лучшие работы Айвазовский направлял в академию для поощрений. Желающих учиться у Айвазовского и копировать его картины становилось все больше. Тогда он в 1880 году пристроил к своему дому художественную галерею, ставшую третьим по счету музеем в Российской империи. Здесь экспонировались все его последние картины. Сюда устремились молодые художники, которым он охотно передавал свои знания и умение. Влияние творческого почерка Айвазовского испытывали в годы своего становления И. Шишкин, М. Врубель, А. Саврасов.
В Феодосии тогда не было театра, а у Айвазовского часто гостили его друзья – знаменитые музыканты и артисты. Иван Константинович всегда просил их давать концерты на сцене своей картинной галереи. Феодосийцы слышали здесь известного русского композитора и пианиста Рубинштейна, знаменитого польского скрипача Венявского, великого армянского композитора Спендиарова, видели игру многих актеров Мариинского и Александринского театров Санкт-Петербурга – М. и Н. Фигнер, К. Варламова, армянского артиста-трагика Петроса Адамяна.
Галерею, ставшую своеобразным центром художественной жизни Феодосии, художник завещал родному городу. При входе в галерею Айвазовского в камне высечена выписка из духовного завещания художника: «…Мое искреннее желание, чтобы здание моей картинной галереи в городе Феодосии со всеми в ней картинами, статуями и другими произведениями искусства, находящимися в этой галерее, составляли полную собственность города Феодосии, и в память обо мне, Айвазовском, завещаю галерею городу Феодосии, моему родному городу…»