まずは以下のサンプルを見てみましょう．
で，これは次のようなソースで書かれてます．
\documentclass{jarticle}
\usepackage[all]{xy}
\begin{document}
\[\xymatrix{
& A & \\
& M \ar[u]_h & \\
M_i \ar[rr]_{\varphi_{ji}} \ar[ruu]^{f_i} \ar[ru]_{\varphi} & & M_j \ar[luu]_{f_i} \ar[lu]^{\varphi_j} \\
}\]
\end{document}
これを見れば全てがわかると思いますが一応解説．
まずパッケージ読み込み．\usepackage[all]{xy}を加えます．
で，使うときは\xymatrixなるものを使います．一応matrixと言うからには行列(表)のようになってます．tabular環境やarray環境と同じですね．その行の区切りは&で，改行は\\で行います．
さて，記号並べただけじゃ意味がないです．矢印を引けないと．その為の命令が\arです．これは矢印を引きます．何処に向けて引くのか？それを\arの次に指定します．\ar[u]と書いてあるならその一つ上．\ar[dr]を書いてあれば右下です．\ar[llu]は左に二つ，上に一つ，そんな感じです．写像などを書きたいときはその後に^や_を続けて加えます．^か_かはできあがったのをみて決めましょう．