期待されているのは「BigDecimalなら正確な計算ができる」ということではないかと推測して回答します。
BigDecimalは筆算で「少数以下Nケタ未満をまるめて10進数の計算する」のと同じ能力しかありません。1/3は循環小数になるため特定の桁でまるめるとどうしても誤差が出ます。おそらくは計算するのに
BigDecimal one = BigDecimal.valueOf(1);
BigDecimal three = BigDecimal.valueOf(3);
BigDecimal result = one.subtract(one.divide(three, 10, BigDecimal.HALF_DOWN).multiply(three)));
といった計算をしたのだと思います。3で割った時点でどれだけ精度を上げたとしても最後の桁は切り捨てや切り上げなどのまるめが行われるので必ず誤差が生じます。それに3を乗じても例えば0.9999999999とか1.0000000002になるためぴったり1にはならないと思います。
代数式をそのまま扱うような特別なシステムだと1/3*3==1と正確になってほしいことがあり、そういう応用では特別な「有理数クラス」を定義して使っていると思います。double, BigDecimalなどは一定の誤差を許容する数値計算の分野で使うものですので有理数を正確に扱う目的には向いていません。正確な有理数演算機能を標準で備えたCommon Lisp言語のようなものもあるにはありますが計算機言語のどれもが備えているような一般的機能とはいえずJavaでも標準では備えていないのです。