青山学院は、1874（明治7）年にアメリカのメソジスト監督教会から派遣された宣教師スクーンメーカー女史が、津田仙等の協力を得て、麻布に開校した「女子小学校」に創立の源があります。1878（明治11）年男子部門の宣教師ジュリアス・ソーパー博士を中心として開学された「耕教学舎」と、その翌年ロバート・Ｓ・マクレイ博士によって開校された「美會神学校」もやがて合わせられて学院の母体となりました。

その後青山の地に移転して、1894（明治27）年第2代本多庸一院長の時に青山学院と改名され、女子学校の流れは青山女学院と改称、更に合併などそれぞれに変遷を経ながら成長しました。第二次世界大戦が終わって、1947（昭和22）年に文部省の大きな学制改革があり、青山学院は男女共学の大学と、女子短期大学、高等部以下共学で初等部までが設立されました。

幼児教育の部は、キリスト教教育が国の政策で理解されていない時代、校友米山梅吉夫妻の尽力により、1937（昭和12）年に校内に別法人「青山学院緑岡幼稚園」が設立されました。
しかし東京大空襲によって全焼して休園にいたりました。 その後、機が熟して1961（昭和36）年、第11代院長大木金次郎先生の時に望まれていた現在の青山学院幼稚園が設立されました。

人間の教育にとってその幼児期は最も大事な土台づくりの時です。一本一本の草木がしっかりと根を張るためには、良い土壌と暖かい光と水が必要であるように、人の幼児期には出来る限り良い環境を整え、健全な成長の支えとなる援助が必要です。

本幼稚園は青山学院の一貫教育の中で運営されています。青山学院の教育方針に従って、キリスト教信仰に基づく保育理念をもって毎日の園生活が営まれています。保育者も園児も共に主イエス・キリストに現された神の愛のもとで、毎日お祈りをもって育てられております。一人ひとりの子どもの個性を大事にしながら、明るい子どもらしさを失わせることなく、楽しく思いやりのある生活が出来ることを目指しています。