Začetki združevanja arhivskih delavcev izhajajo iz sekcije, ki je delovala v okviru Zgodovinskega društva za Slovenijo. Po ustanovitvi arhivskega društva so njegovi člani nadaljevali sodelovanje s sorodnimi in drugimi organizacijami za izpolnitev poslanstva društva v obliki uradnih stikov, posvetovanj, posvetov in okroglih miz. Društvo je sodelovalo z državnimi in lokalnimi organi ter domačimi in tujimi organizacijami pri oblikovanju arhivske mreže, prenovi arhivske zakonodaje, navezavi uradnih stikov, restituciji arhivskega gradiva, izdajanju kritičnih edicij zgodovinskih virov, uvedbi strokovnega usposabljanja za zaposlene v arhivih.
Poleg tesnega sodelovanja z arhivi in povezovanja s sorodnimi društvi v Sloveniji Arhivsko društvo Slovenije deluje tudi mednarodno. Od leta 1992 je društvo član Mednarodnega arhivskega sveta (International Council on Archives/ICA), ki povezuje arhivske organizacije na svetovni ravni. Društvo v skladu s svojimi zmožnostmi pomaga arhivskim strokovnim uslužbencem – članom društva, pri udeležbi na strokovnih srečanjih v Sloveniji in v tujini.
Od vsega začetka so se člani društva udeleževali mednarodnih arhivskih zborovanj, kongresov, konferenc in delovnih sestankov v tujini. Prvič 1956, ko je v Firencah potekal III. mednarodni kongres arhivov. Leto kasneje je bila v Zagrebu Mednarodna konferenca Okrogle mize arhivov, kjer je bil delegat zveze član društva. 1992 so se predstavniki društva samostojno udeležili 12. mednarodnega arhivskega kongresa v Montrealu v Kanadi, naslednje leto pa so se v Münchnu srečali s predstavniki združenj nemških arhivskih delavcev in drugih arhivskih združenj iz držav v tranziciji. Namen srečanja je bila izdelava smernic za izboljšanje delovanja arhivov po družbeno političnih spremembah v Evropi na začetku devetdesetih let.
Društvo in njegovi člani prav tako sodelujejo z arhivskimi združenji in arhivi držav nekdanje SFRJ, s katerimi so bili nekoč v Zvezi društev arhivskih delavcev Jugoslavije. Nenazadnje nas, poleg skupne zgodovine, povezuje tudi arhivsko gradivo, ki je nastajalo v zveznih organih SFRJ. Leta 1961 je bil na Bledu organiziran III. kongres Zveze društev arhivskih delavcev Jugoslavije z 200 udeleženci iz cele Jugoslavije. Slovenija je večkrat gostila tudi zvezna posvetovanja, nazadnje leta 1989. Na pobudo predstavnikov arhivov Slovenije in Hrvaške je bilo v Tuheljskih Toplicah leta 2008 organizirano I. mednarodno posvetovanje Okrogla miza arhivistov Slovenije in Hrvaške, kasneje so se jim pridružili arhivisti iz Bosne in Hercegovine ter Vojvodine.
Poročila o povezovanju s sorodnimi in drugimi organizacijami najdete v publikaciji ARHIVI v rubrikah O delu arhivov in zborovanjih ter O delu Arhivskega društva Slovenije.